LlamaIndex ने LongLLMLingua को किया इंटीग्रेट: प्रॉम्प्ट कम्प्रेशन से RAG के Lost in the Middle को कम कर लागत घटाना
मूल शीर्षक:LongLLMLingua: Bye-bye to Middle Loss and Save on Your RAG Costs via Prompt Compression
AI सारांश
LlamaIndex ने RAG में LongLLMLingua का उपयोग करने का तरीका प्रस्तुत किया है, जो प्रश्न-जागरूक मोटे-अनाज रीरैंकिंग, बारीक प्रॉम्प्ट कम्प्रेशन और सब-सीक्वेंस रिकवरी के माध्यम से प्रमुख जानकारी के प्रति LLM की संवेदनशीलता को बढ़ाता है।
मुख्य जानकारी
- LlamaIndex ने RAG में LongLLMLingua का उपयोग करने का तरीका प्रस्तुत किया है
- जो प्रश्न-जागरूक मोटे-अनाज रीरैंकिंग
- बारीक प्रॉम्प्ट कम्प्रेशन और सब-सीक्वेंस रिकवरी के माध्यम से प्रमुख जानकारी के प्रति LLM की…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- LlamaIndex:产品、工程与评测
- श्रेणी
- ट्यूटोरियल और टिप्स
- AI स्कोर
- 71
原文拆解了 LongLLMLingua 的粗细粒度压缩与重排细节,并给出在 LlamaIndex 中作为 NodePostprocessor 的用法,可迁移到自己的 RAG 成本优化。
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: LlamaIndex ने LongLLMLingua को किया इंटीग्रेट: प्रॉम्प्ट कम्प्रेशन से RAG के Lost in the Middle को कम कर लागत घटाना। 6 नवंबर 2023। https://new.nat6.net/hi/news/rwaksieiiiymu98g8ucpbg1ou/