Memperkenalkan contextual retrieval: metode baru yang meningkatkan akurasi sistem RAG secara signifikan
Judul asli:Introducing Contextual Retrieval
Ringkasan AI
Sistem RAG tradisional mudah kehilangan konteks saat pengodean, sehingga pengambilan gagal. Metode baru "contextual retrieval" melalui dua subteknologi, "contextual embeddings" dan "contextual BM25", menambahkan konteks penjelas pada potongan teks sebelum pengambilan, sehingga dapat mengurangi jumlah kegagalan pengambilan sebesar 49%, dan hingga 67% bila dikombinasikan dengan reranking, sekaligus meningkatkan kinerja tugas hilir secara signifikan. Untuk basis pengetahuan kecil di bawah 200.000 token, seluruh isinya dapat langsung dimasukkan ke prompt; dengan fitur prompt caching Claude, latensi dapat turun lebih dari 2 kali lipat dan biaya hingga 90%. Untuk basis pengetahuan besar, contextual retrieval menawarkan solusi yang dapat diskalakan.
Poin utama
- Sistem RAG tradisional mudah kehilangan konteks saat pengodean,sehingga pengambilan gagal.
- Metode baru "contextual retrieval" melalui dua subteknologi,"contextual embeddings" dan…
- Untuk basis pengetahuan kecil di bawah 200.
- 000 token,seluruh isinya dapat langsung dimasukkan ke prompt
- dengan fitur prompt caching Claude,latensi dapat turun lebih dari 2 kali lipat dan biaya hingga 90%.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Tutorial & Tips
- Skor AI
- 72
Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Memperkenalkan contextual retrieval: metode baru yang meningkatkan akurasi sistem RAG secara signifikan. 19 September 2024. https://new.nat6.net/id/news/cmorb7ml1008tslhfm0c04uo4/