ผลิตภัณฑ์และแอป

llm-d 1.0 เปิดตัว บริการอนุมานแบบกระจายบน Kubernetes พร้อมใช้งานจริง

หัวข้อต้นฉบับ:llm-d 1.0 hardens open-source AI inference for production

สรุปโดย AI

llm-d โปรเจกต์อนุมานโอเพนซอร์สที่นำโดย IBM, Red Hat และ Google เปิดตัว llm-d 1.0 ในงาน PyTorch Conference North America เป็นเฟรมเวิร์กบริการอนุมานแบบกระจายที่ใช้ Kubernetes เป็นฐาน รองรับโมเดลใดก็ได้ ตัวเร่งใดก็ได้ และคลาวด์ใดก็ได้

ข้อมูลสำคัญ

  • llm-d โปรเจกต์อนุมานโอเพนซอร์สที่นำโดย IBM
  • Red Hat และ Google เปิดตัว llm-d 1.
  • 0 ในงาน PyTorch Conference North America เป็นเฟรมเวิร์กบริการอนุมานแบบกระจายที่ใช้ Kubernetes…

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
IBM Research:AI
หมวดหมู่
ผลิตภัณฑ์และแอป
หัวข้อ
การอัปเดตผลิตภัณฑ์ระบบนิเวศโอเพนซอร์สวิศวกรรมการติดตั้งใช้งาน
คะแนน AI
60
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。

หัวข้อที่เกี่ยวข้อง

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: llm-d 1.0 เปิดตัว บริการอนุมานแบบกระจายบน Kubernetes พร้อมใช้งานจริง 20 ตุลาคม 2026 https://new.nat6.net/th/news/b1pcaa7ceghor24vjgsjagqqd/

ดูทั้งหมด →