제품 및 앱
HPC-Ops × SGLang: 텐센트 혼원, 고성능 Attention·Router GEMM·MoE 연산자 오픈소스 공개
원제목:Blog HPC-Ops × SGLang: High-Performance Attention, Router GEMM, and MoE Kernels from Tencent Hunyuan HPC-Ops is an open-source operator library for LLM inference, deployed in Tencent's large-scale production serving. Its core operators, including Dynamic Attention and Fused MoE, play a critical role ... Tencent Hunyuan AI Infra and the SGLang Team
AI 요약
텐센트 혼원의 오픈소스 연산자 라이브러리 HPC-Ops가 SGLang 메인 브랜치에 통합되었으며, Dynamic Attention과 Fused MoE는 Hy3 모델에서 TPOT를 최대 48.8% 절감했다.
한눈에 보기
게시
2026년 8월 7일
업데이트
2026년 11월 6일
AI 점수
76
추천 이유
HPC-Ops 集成到 SGLang,带来生产验证的负载均衡 Attention 和精度感知 Router GEMM,实测 Hy3 TPOT 降幅最高 48.8%,为 MoE 低延迟服务提供了可直接使用的开源优化。
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
원문 기사
· AIHOT 항목
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: HPC-Ops × SGLang: 텐센트 혼원, 고성능 Attention·Router GEMM·MoE 연산자 오픈소스 공개. 2026년 8월 7일. https://new.nat6.net/ko/news/cmsj8rfkl02ruroo5uvyqiqiq/
Orange Relay(pro.nat6.net)는 고품질 AI API 중계 서비스입니다. 합리적인 가격, 안정적인 품질, Claude·GPT·Gemini 등 주요 모델을 폭넓게 지원합니다.
Orange Relay 방문하기
알리바바 千问이 전 세계 최초로 영상 생성 모델 Wan3.0의 공개 테스트를 시작했다. 생성 길이, 카메라 언어, 캐릭터 사실감, 일관성 유지 등에서 전면 업그레이드됐다. 이 모델은 30초 원테이크 영상을 안정적으…
公众号:千问APP(阿里) 제품 및 앱 AI 점수 64
2026년 8월 6일
千问가 오늘 다수 신기능을 출시하고 최신 플래그십 모델 Qwen3.8-MAX를 지원한다. '사고 연구'는 기존 '심층 사고'를 업그레이드해 복잡한 추론과 도구 호출을 강화했다. '예약 작업'은 실행 시간을 미리 설…
公众号:千问APP(阿里) 제품 및 앱 AI 점수 67
2026년 8월 7일
Google 지도가 Ask Maps의 새로운 업그레이드를 발표했다. 에이전트 기능이 추가되어 사용자를 대신해 음식 주문을 수행하며 식이 요구 사항, 현재 위치, 저장한 장소 등을 종합적으로 고려한다. 사용자는…
IT之家·人工智能 제품 및 앱 AI 점수 71
2026년 8월 6일
Anthropic이 Claude Fable 5의 생물안전 보호 메커니즘을 업데이트해 생물 관련 쿼리의 '폴백' 횟수를 약 85% 줄였다. 사용자는 일상 건강 및 교육 문제에서 시스템이 더 약한 모델로 전환되는…
Anthropic:Newsroom(网页) 제품 및 앱 AI 점수 66
2026년 8월 7일
Agent Plugins 1.0.0은 Google, Amazon, Microsoft 등이 지원하는 중립 디렉터리 규격으로 Agent Skills와 MCP 서버를 단일 이식 가능 단위로 패키징한다. 표준화된…
Google Developers Blog(RSS) 제품 및 앱 AI 점수 75
2026년 8월 6일
Anthropic이 Claude Fable 5의 생물안전 가드레일을 업데이트해 생물 관련 폴백을 약 85% 줄여 더 폭넓은 일상 건강 및 교육 문제를 처리할 수 있게 됐다. Fable은 여전히 바이러스학,…
X:Claude (@claudeai) 제품 및 앱 AI 점수 73
2026년 8월 7일
이전 기사 GitHub Copilot 앱의 슬래시 명령 사용 가이드
다음 기사 앤트 그룹 링위, Ling-3.0-flash 오픈소스 공개…124B 총 파라미터 MoE 하이브리드 추론 모델