उत्पाद और ऐप्स

Perplexity ने Unigram टोकनाइज़र ओपन-सोर्स किया, CPU उपयोग कम किया

मूल शीर्षक:We're open-sourcing the Unigram tokenizer we rebuilt to reduce CPU utilization by 5-6x. Small reran...

AI सारांश

हमने पुनर्निर्मित Unigram टोकनाइज़र ओपन-सोर्स किया है, जो CPU उपयोग को 5-6 गुना कम कर सकता है। छोटे रीरैंकर और एम्बेडिंग मॉडल GPU पर केवल एकल-अंक मिलीसेकंड में चलते हैं, जिससे CPU टोकनाइज़ेशन कुल विलंबता का महत्वपूर्ण हिस्सा बन जाता है। http://github.com/perplexityai/pplx-garden

मुख्य जानकारी

  • हमने पुनर्निर्मित Unigram टोकनाइज़र ओपन-सोर्स किया है
  • जो CPU उपयोग को 5-6 गुना कम कर सकता है। छोटे रीरैंकर और एम्बेडिंग मॉडल GPU पर केवल एकल-अंक…
  • जिससे CPU टोकनाइज़ेशन कुल विलंबता का महत्वपूर्ण हिस्सा बन जाता है।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
X:Perplexity (@perplexity_ai)
श्रेणी
उत्पाद और ऐप्स
AI स्कोर
68
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

Perplexity 开源的这个 tokenizer 能把 CPU 利用率砍掉五六倍,做实时推理的团队值得立马试试,对延迟敏感的场景是实打实的优化。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Perplexity ने Unigram टोकनाइज़र ओपन-सोर्स किया, CPU उपयोग कम किया। 27 मई 2026। https://new.nat6.net/hi/news/cmpo929df03ztslv4z9v93608/

सभी देखें →