StepFun trình diễn hiệu năng suy luận của Step 5 Preview trên NVIDIA GB300
Tiêu đề gốc:Great to see Step 5 Preview delivering strong inference performance on NVIDIA GB300.
Tóm tắt AI
StepFun cho biết Step 5 Preview có hiệu năng suy luận xuất sắc trên NVIDIA GB300, và mong muốn thấy các ứng dụng nhà phát triển xây dựng với mô hình này. Nội dung NVIDIA được chia sẻ lại cho biết mô hình là bản phát hành trọng số mở lớn nhất của StepFun, kiến trúc MoE 600B, có thể xử lý tác vụ Agent dài tối đa 24 giờ, đạt gần 8K tokens/sec/GPU với NVFP4 trên GB300, cung cấp checkpoint NVFP4 (https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4), và hỗ trợ huấn luyện hậu kỳ SGLang, vLLM, NeMo Automodel cùng triển khai một cú nhấp NVIDIA NIM.
Thông tin chính
- StepFun cho biết Step 5 Preview có hiệu năng suy luận xuất sắc trên NVIDIA GB300,và mong muốn thấy…
- Nội dung NVIDIA được chia sẻ lại cho biết mô hình là bản phát hành trọng số mở lớn nhất của…
- đạt gần 8K tokens/sec/GPU với NVFP4 trên GB300,cung cấp checkpoint NVFP4,và hỗ trợ huấn luyện hậu…
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Ra mắt mô hình
- Chủ đề
- Phát hành mô hình
- Điểm AI
- 66
原文补充了 Step 5 Preview 在 NVIDIA GB300 上的推理表现和 NVFP4 权重入口,可帮助开发者评估部署选择。
Chủ đề liên quan
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: StepFun trình diễn hiệu năng suy luận của Step 5 Preview trên NVIDIA GB300. 15 tháng 10 2026. https://new.nat6.net/vi/news/l3g1uzem751ki1oxckrxa1b3e/