Tin ngành

RadixArk hợp tác với Google Cloud đưa đầy đủ tính năng SGLang lên TPU

Tiêu đề gốc:News RadixArk Joins Forces with Google to Bring Full SGLang Features to TPUs RadixArk and Google Cloud are partnering to bring SGLang to TPUs, giving developers ultimate flexibility for running workloads on their choice of hardware. RadixArk & Google

Tóm tắt AI

RadixArk hợp tác với Google Cloud đưa khung suy luận mã nguồn mở SGLang lên Google TPU; nhà phát triển có thể chạy các mô hình ngôn ngữ lớn như Gemma, Qwen, DeepSeek và mô hình đa phương thức trên TPU mới nhất thông qua SGL-JAX.

Thông tin chính

  • RadixArk hợp tác với Google Cloud đưa khung suy luận mã nguồn mở SGLang lên Google TPU
  • nhà phát triển có thể chạy các mô hình ngôn ngữ lớn như Gemma
  • DeepSeek và mô hình đa phương thức trên TPU mới nhất thông qua SGL-JAX.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
LMSYS Blog
Danh mục
Tin ngành
Điểm AI
61
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

SGLang 正式登陆 TPU,推理框架的硬件自由终于实现,选 GPU 还是 TPU 从此只看性价比不看兼容性,做推理服务的团队可以重新算账了。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: RadixArk hợp tác với Google Cloud đưa đầy đủ tính năng SGLang lên TPU. 30 tháng 7 2026. https://new.nat6.net/vi/news/cms7oxay30o4nro2e4t3r6ud2/

Xem tất cả →