Tutorial & Tips

Memperkenalkan contextual retrieval: metode baru yang meningkatkan akurasi sistem RAG secara signifikan

Judul asli:Introducing Contextual Retrieval

Ringkasan AI

Sistem RAG tradisional mudah kehilangan konteks saat pengodean, sehingga pengambilan gagal. Metode baru "contextual retrieval" melalui dua subteknologi, "contextual embeddings" dan "contextual BM25", menambahkan konteks penjelas pada potongan teks sebelum pengambilan, sehingga dapat mengurangi jumlah kegagalan pengambilan sebesar 49%, dan hingga 67% bila dikombinasikan dengan reranking, sekaligus meningkatkan kinerja tugas hilir secara signifikan. Untuk basis pengetahuan kecil di bawah 200.000 token, seluruh isinya dapat langsung dimasukkan ke prompt; dengan fitur prompt caching Claude, latensi dapat turun lebih dari 2 kali lipat dan biaya hingga 90%. Untuk basis pengetahuan besar, contextual retrieval menawarkan solusi yang dapat diskalakan.

Poin utama

  • Sistem RAG tradisional mudah kehilangan konteks saat pengodean,sehingga pengambilan gagal.
  • Metode baru "contextual retrieval" melalui dua subteknologi,"contextual embeddings" dan…
  • Untuk basis pengetahuan kecil di bawah 200.
  • 000 token,seluruh isinya dapat langsung dimasukkan ke prompt
  • dengan fitur prompt caching Claude,latensi dapat turun lebih dari 2 kali lipat dan biaya hingga 90%.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Engineering(事故复盘 + 工程实践 · 网页)
Kategori
Tutorial & Tips
Skor AI
72
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Memperkenalkan contextual retrieval: metode baru yang meningkatkan akurasi sistem RAG secara signifikan. 19 September 2024. https://new.nat6.net/id/news/cmorb7ml1008tslhfm0c04uo4/

Lihat semua →