Pagpapakilala ng contextual retrieval: Bagong paraan para malaki ang pagbuti sa accuracy ng RAG system
Orihinal na pamagat:Introducing Contextual Retrieval
AI summary
Ang tradisyonal na RAG system ay madaling mawalan ng context kapag nag-encode, na nagdudulot ng retrieval failure. Ang bagong paraan na “contextual retrieval” ay gumagamit ng dalawang sub-technique na “contextual embeddings” at “contextual BM25” para magdagdag ng explanatory context sa text chunks bago ang retrieval, na nakakabawas ng retrieval failures ng 49%, at hanggang 67% kapag may reranking, na malaki ang naitulong para mapabuti ang performance ng downstream tasks. Para sa maliliit na knowledge base na wala pang 200,000 tokens, maaaring ilagay ang buong content sa prompt, at kasama ng prompt caching feature ng Claude, nakakabawas ito ng higit sa 2 beses na latency at hanggang 90% na gastos. Para sa malalaking knowledge base, nagbibigay ang contextual retrieval ng scalable na solusyon.
Mahahalagang impormasyon
- Ang tradisyonal na RAG system ay madaling mawalan ng context kapag nag-encode,na nagdudulot ng…
- Ang bagong paraan na “contextual retrieval” ay gumagamit ng dalawang sub-technique na “contextual…
- Para sa maliliit na knowledge base na wala pang 200,000 tokens,maaaring ilagay ang buong content…
- Para sa malalaking knowledge base,nagbibigay ang contextual retrieval ng scalable na solusyon.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Anthropic:Engineering(事故复盘 + 工程实践 · 网页)
- Kategorya
- Mga Tutorial at Tip
- AI na marka
- 72
Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Pagpapakilala ng contextual retrieval: Bagong paraan para malaki ang pagbuti sa accuracy ng RAG system. 19 Setyembre 2024. https://new.nat6.net/fil/news/cmorb7ml1008tslhfm0c04uo4/