Туториалы и советы

Контекстный поиск: новый метод значительного повышения точности RAG-систем

Оригинальный заголовок:Introducing Contextual Retrieval

ИИ-резюме

Традиционные RAG-системы при кодировании легко теряют контекст, что приводит к сбоям поиска. Новый метод «контекстного поиска» с помощью двух подтехник — «контекстных эмбеддингов» и «контекстного BM25» — добавляет к текстовым блокам пояснительный контекст перед поиском, что позволяет сократить число сбоев поиска на 49%, а в сочетании с переранжированием — до 67%, значительно повышая производительность последующих задач. Для небольших баз знаний объёмом менее 200 тыс. токенов можно поместить всё содержимое прямо в подсказку; в сочетании с функцией кэширования подсказок Claude это снижает задержку более чем в 2 раза и затраты до 90%. Для больших баз знаний контекстный поиск предлагает масштабируемое решение.

Ключевые моменты

  • Традиционные RAG-системы при кодировании легко теряют контекст,что приводит к сбоям поиска.
  • Новый метод «контекстного поиска» с помощью двух подтехник — «контекстных эмбеддингов» и…
  • Для небольших баз знаний объёмом менее 200 тыс.
  • токенов можно поместить всё содержимое прямо в подсказку
  • в сочетании с функцией кэширования подсказок Claude это снижает задержку более чем в 2 раза и…

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Engineering(事故复盘 + 工程实践 · 网页)
Категория
Туториалы и советы
Оценка ИИ
72
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Контекстный поиск: новый метод значительного повышения точности RAG-систем. 19 сентября 2024. https://new.nat6.net/ru/news/cmorb7ml1008tslhfm0c04uo4/

Смотреть все →