ट्यूटोरियल और टिप्स

LlamaIndex ट्यूटोरियल: Ollama के साथ स्थानीय रूप से Mixtral 8x7b चलाएं और RAG ऐप्लिकेशन बनाएं

मूल शीर्षक:Running Mixtral 8x7 locally with LlamaIndex and Ollama

AI सारांश

LlamaIndex ने एक ट्यूटोरियल जारी किया है, जिसमें बताया गया है कि स्थानीय स्तर पर Mixtral 8x7b को चलाने के लिए Ollama का उपयोग कैसे करें और इसे LlamaIndex के साथ कैसे जोड़ें। Mixtral, Mistral AI द्वारा जारी 8-विशेषज्ञ मिश्रण (MoE) मॉडल है, जिसमें प्रत्येक में 7B पैरामीटर हैं। ब्लॉग के अनुसार, यह कई बेंचमार्क पर GPT-3.5 और Llama2 70b के बराबर या उनसे बेहतर प्रदर्शन करता है।

मुख्य जानकारी

  • LlamaIndex ने एक ट्यूटोरियल जारी किया है,जिसमें बताया गया है कि स्थानीय स्तर पर Mixtral 8x7b को…
  • Mistral AI द्वारा जारी 8-विशेषज्ञ मिश्रण (MoE) मॉडल है,जिसमें प्रत्येक में 7B पैरामीटर हैं। ब्लॉग…
  • 5 और Llama2 70b के बराबर या उनसे बेहतर प्रदर्शन करता है।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
LlamaIndex:产品、工程与评测
श्रेणी
ट्यूटोरियल और टिप्स
AI स्कोर
71
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

原文提供从安装到建 API 的完整本地 Mixtral 流程,含代码和硬件要求,读者可以直接照做搭建本地 RAG。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: LlamaIndex ट्यूटोरियल: Ollama के साथ स्थानीय रूप से Mixtral 8x7b चलाएं और RAG ऐप्लिकेशन बनाएं। 21 दिसंबर 2023। https://new.nat6.net/hi/news/xve175zioloja4a5bq0ptdk8k/

सभी देखें →