उत्पाद और ऐप्स

vLLM ने TML Inkling के लिए डे-0 सपोर्ट लागू किया और इनफरेंस परफॉरमेंस ऑप्टिमाइज़ेशन पूरा किया

मूल शीर्षक:TML Inkling on vLLM: Day-0 Support with Optimized Performance

AI सारांश

vLLM ने Thinking Machines Lab के 1T पैरामीटर वाले मल्टीमॉडल मॉडल TML Inkling के लिए डे-0 सपोर्ट की घोषणा की है। इसमें thinkingmachines/Inkling-NVFP4 और BF16 दोनों वर्ज़न शामिल हैं, जो टेक्स्ट, इमेज, ऑडियो इनपुट और 1M टोकन तक के कॉन्टेक्स्ट का समर्थन करते हैं।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
vLLM 官方博客(RSS)
श्रेणी
उत्पाद और ऐप्स
AI स्कोर
74
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性。

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: vLLM ने TML Inkling के लिए डे-0 सपोर्ट लागू किया और इनफरेंस परफॉरमेंस ऑप्टिमाइज़ेशन पूरा किया। 15 जुलाई 2026। https://new.nat6.net/hi/news/cmtym20dg000qrovu8y7mff6t/

सभी देखें →