Hướng dẫn & mẹo

Giới thiệu truy xuất theo ngữ cảnh: phương pháp mới nâng cao đáng kể độ chính xác của hệ thống RAG

Tiêu đề gốc:Introducing Contextual Retrieval

Tóm tắt AI

Hệ thống RAG truyền thống dễ mất ngữ cảnh khi mã hóa, dẫn đến truy xuất thất bại. Phương pháp mới "truy xuất theo ngữ cảnh" thông qua hai kỹ thuật con "nhúng theo ngữ cảnh" và "BM25 theo ngữ cảnh", thêm ngữ cảnh giải thích cho các khối văn bản trước khi truy xuất, có thể giảm số lần truy xuất thất bại 49%, kết hợp xếp hạng lại có thể giảm tới 67%, nâng cao đáng kể hiệu suất các nhiệm vụ hạ nguồn. Đối với cơ sở tri thức nhỏ dưới 200.000 token, có thể đưa toàn bộ nội dung vào lời nhắc, kết hợp với chức năng bộ nhớ đệm lời nhắc của Claude, có thể giảm hơn 2 lần độ trễ và tới 90% chi phí. Đối với cơ sở tri thức lớn, truy xuất theo ngữ cảnh cung cấp giải pháp có thể mở rộng.

Thông tin chính

  • Hệ thống RAG truyền thống dễ mất ngữ cảnh khi mã hóa,dẫn đến truy xuất thất bại.
  • Phương pháp mới "truy xuất theo ngữ cảnh" thông qua hai kỹ thuật con "nhúng theo ngữ cảnh" và…
  • Đối với cơ sở tri thức nhỏ dưới 200.
  • 000 token,có thể đưa toàn bộ nội dung vào lời nhắc,kết hợp với chức năng bộ nhớ đệm lời nhắc của…
  • Đối với cơ sở tri thức lớn,truy xuất theo ngữ cảnh cung cấp giải pháp có thể mở rộng.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Anthropic:Engineering(事故复盘 + 工程实践 · 网页)
Danh mục
Hướng dẫn & mẹo
Điểm AI
72
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Giới thiệu truy xuất theo ngữ cảnh: phương pháp mới nâng cao đáng kể độ chính xác của hệ thống RAG. 19 tháng 9 2024. https://new.nat6.net/vi/news/cmorb7ml1008tslhfm0c04uo4/

Xem tất cả →