Контекстный поиск: новый метод значительного повышения точности RAG-систем
Оригинальный заголовок:Introducing Contextual Retrieval
ИИ-резюме
Традиционные RAG-системы при кодировании легко теряют контекст, что приводит к сбоям поиска. Новый метод «контекстного поиска» с помощью двух подтехник — «контекстных эмбеддингов» и «контекстного BM25» — добавляет к текстовым блокам пояснительный контекст перед поиском, что позволяет сократить число сбоев поиска на 49%, а в сочетании с переранжированием — до 67%, значительно повышая производительность последующих задач. Для небольших баз знаний объёмом менее 200 тыс. токенов можно поместить всё содержимое прямо в подсказку; в сочетании с функцией кэширования подсказок Claude это снижает задержку более чем в 2 раза и затраты до 90%. Для больших баз знаний контекстный поиск предлагает масштабируемое решение.
Ключевые моменты
- Традиционные RAG-системы при кодировании легко теряют контекст,что приводит к сбоям поиска.
- Новый метод «контекстного поиска» с помощью двух подтехник — «контекстных эмбеддингов» и…
- Для небольших баз знаний объёмом менее 200 тыс.
- токенов можно поместить всё содержимое прямо в подсказку
- в сочетании с функцией кэширования подсказок Claude это снижает задержку более чем в 2 раза и…
Кратко
- Опубликовано
- Обновлено
- Категория
- Туториалы и советы
- Оценка ИИ
- 72
Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Контекстный поиск: новый метод значительного повышения точности RAG-систем. 19 сентября 2024. https://new.nat6.net/ru/news/cmorb7ml1008tslhfm0c04uo4/