산업 동향

RadixArk, Google Cloud와 협력해 SGLang 전체 기능을 TPU에 도입

원제목:News RadixArk Joins Forces with Google to Bring Full SGLang Features to TPUs RadixArk and Google Cloud are partnering to bring SGLang to TPUs, giving developers ultimate flexibility for running workloads on their choice of hardware. RadixArk & Google

AI 요약

RadixArk는 Google Cloud와 협력해 오픈소스 추론 프레임워크 SGLang을 Google TPU에 도입했다. 개발자는 SGL-JAX를 통해 최신 TPU에서 Gemma, Qwen, DeepSeek 등 대규모 언어 모델과 멀티모달 모델을 실행할 수 있다.

핵심 정보

  • RadixArk는 Google Cloud와 협력해 오픈소스 추론 프레임워크 SGLang을 Google TPU에 도입했다.
  • 개발자는 SGL-JAX를 통해 최신 TPU에서 Gemma
  • DeepSeek 등 대규모 언어 모델과 멀티모달 모델을 실행할 수 있다.

한눈에 보기

게시
업데이트
출처
LMSYS Blog
카테고리
산업 동향
AI 점수
61
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

SGLang 正式登陆 TPU,推理框架的硬件自由终于实现,选 GPU 还是 TPU 从此只看性价比不看兼容性,做推理服务的团队可以重新算账了。

관련 엔티티

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: RadixArk, Google Cloud와 협력해 SGLang 전체 기능을 TPU에 도입. 2026년 7월 30일. https://new.nat6.net/ko/news/cms7oxay30o4nro2e4t3r6ud2/

전체 보기 →