Mga Tutorial at Tip

Pagpapakilala ng contextual retrieval: Bagong paraan para malaki ang pagbuti sa accuracy ng RAG system

Orihinal na pamagat:Introducing Contextual Retrieval

AI summary

Ang tradisyonal na RAG system ay madaling mawalan ng context kapag nag-encode, na nagdudulot ng retrieval failure. Ang bagong paraan na “contextual retrieval” ay gumagamit ng dalawang sub-technique na “contextual embeddings” at “contextual BM25” para magdagdag ng explanatory context sa text chunks bago ang retrieval, na nakakabawas ng retrieval failures ng 49%, at hanggang 67% kapag may reranking, na malaki ang naitulong para mapabuti ang performance ng downstream tasks. Para sa maliliit na knowledge base na wala pang 200,000 tokens, maaaring ilagay ang buong content sa prompt, at kasama ng prompt caching feature ng Claude, nakakabawas ito ng higit sa 2 beses na latency at hanggang 90% na gastos. Para sa malalaking knowledge base, nagbibigay ang contextual retrieval ng scalable na solusyon.

Mahahalagang impormasyon

  • Ang tradisyonal na RAG system ay madaling mawalan ng context kapag nag-encode,na nagdudulot ng…
  • Ang bagong paraan na “contextual retrieval” ay gumagamit ng dalawang sub-technique na “contextual…
  • Para sa maliliit na knowledge base na wala pang 200,000 tokens,maaaring ilagay ang buong content…
  • Para sa malalaking knowledge base,nagbibigay ang contextual retrieval ng scalable na solusyon.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Engineering(事故复盘 + 工程实践 · 网页)
Kategorya
Mga Tutorial at Tip
AI na marka
72
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Pagpapakilala ng contextual retrieval: Bagong paraan para malaki ang pagbuti sa accuracy ng RAG system. 19 Setyembre 2024. https://new.nat6.net/fil/news/cmorb7ml1008tslhfm0c04uo4/

Tingnan lahat →