Contextual Retrieval: eine neue Methode zur deutlichen Steigerung der Genauigkeit von RAG-Systemen
Originaltitel:Introducing Contextual Retrieval
KI-Zusammenfassung
Herkömmliche RAG-Systeme verlieren beim Kodieren leicht den Kontext, was zu fehlgeschlagenen Abrufen führt. Die neue Methode „Contextual Retrieval“ ergänzt vor dem Abruf über die beiden Teiltechniken „Contextual Embeddings“ und „Contextual BM25“ erklärenden Kontext zu Textblöcken. Sie reduziert fehlgeschlagene Abrufe um 49 Prozent, in Kombination mit Reranking um bis zu 67 Prozent, und verbessert die Leistung nachgelagerter Aufgaben deutlich. Bei kleinen Wissensbasen unter 200.000 Token kann der vollständige Inhalt direkt in den Prompt aufgenommen werden; zusammen mit der Prompt-Caching-Funktion von Claude sinken Latenz um mehr als das Zweifache und Kosten um bis zu 90 Prozent. Für große Wissensbasen bietet Contextual Retrieval eine skalierbare Lösung.
Kernpunkte
- Herkömmliche RAG-Systeme verlieren beim Kodieren leicht den Kontext,was zu fehlgeschlagenen…
- Die neue Methode „Contextual Retrieval“ ergänzt vor dem Abruf über die beiden Teiltechniken…
- Sie reduziert fehlgeschlagene Abrufe um 49 Prozent,in Kombination mit Reranking um bis zu 67…
- Bei kleinen Wissensbasen unter 200.
- 000 Token kann der vollständige Inhalt direkt in den Prompt aufgenommen werden
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Tutorials & Tipps
- KI-Bewertung
- 72
Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Contextual Retrieval: eine neue Methode zur deutlichen Steigerung der Genauigkeit von RAG-Systemen. 19. September 2024. https://new.nat6.net/de/news/cmorb7ml1008tslhfm0c04uo4/