उत्पाद और ऐप्स

Answer.AI ने cachy को ओपन-सोर्स किया, नोटबुक में LLM कॉल्स 60 गुना तेज़ हुईं

मूल शीर्षक:Cachy: How we made our notebooks 60x faster.

AI सारांश

Answer.AI ने ओपन-सोर्स पाइथन पैकेज cachy (pip install pycachy) जारी किया है। यह httpx के send मेथड को पैच करके Anthropic और OpenAI SDK के LLM रिस्पॉन्स को स्थानीय रूप से कैश करता है, जिससे समान रिक्वेस्ट पर दोबारा कॉल करने की आवश्यकता नहीं पड़ती और मॉक लिखने की ज़रूरत खत्म हो जाती है।

मुख्य जानकारी

  • Answer.
  • AI ने ओपन-सोर्स पाइथन पैकेज cachy (pip install pycachy) जारी किया है। यह httpx के send मेथड को पैच…
  • जिससे समान रिक्वेस्ट पर दोबारा कॉल करने की आवश्यकता नहीं पड़ती और मॉक लिखने की ज़रूरत खत्म हो जाती…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Answer.AI 官方研发博客(RSS)
श्रेणी
उत्पाद और ऐप्स
AI स्कोर
65
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

原文给出了补丁原理和提速数据,读者可以直接复用这个零代码缓存方案加速自己的 LLM 测试和 notebook 工作流。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Answer.AI ने cachy को ओपन-सोर्स किया, नोटबुक में LLM कॉल्स 60 गुना तेज़ हुईं। 1 अक्टूबर 2025। https://new.nat6.net/hi/news/cmtym2sjr0009roaxhlr65jho/

सभी देखें →