Mô hình AI cục bộ đã đáp ứng được 89% truy vấn hàng ngày, trung tâm dữ liệu sẽ hướng tới cá nhân hóa
Tiêu đề gốc:Mainframes became personal. So will your data center.
Tóm tắt AI
Nghiên cứu của Đại học Stanford và Together AI cho thấy trên hơn một triệu truy vấn thực tế, chất lượng trả lời của mô hình AI cục bộ cho 89% câu hỏi trò chuyện và suy luận hàng ngày đã không thua kém mô hình tiên tiến trên đám mây. Tỷ lệ thắng/hòa của mô hình cục bộ so với mô hình tiên tiến tăng từ 23,2% năm 2023 lên 71,3% năm 2025, hiệu quả trí tuệ trên mỗi watt cùng kỳ tăng 5,3 lần. So với phương án hoàn toàn trên đám mây, kết hợp mô hình cục bộ với bộ định tuyến có thể giảm 80% năng lượng, 77% năng lực tính toán và 74% chi phí, nhưng đám mây vẫn có lợi thế ở suy luận nhiều bước và các lĩnh vực khó.
Thông tin chính
- Nghiên cứu của Đại học Stanford và Together AI cho thấy trên hơn một triệu truy vấn thực tế,chất…
- Tỷ lệ thắng/hòa của mô hình cục bộ so với mô hình tiên tiến tăng từ 23,2% năm 2023 lên 71,3% năm…
- So với phương án hoàn toàn trên đám mây,kết hợp mô hình cục bộ với bộ định tuyến có thể giảm 80%…
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Nguồn
- Tomasz Tunguz 博客(VC 分析)
- Danh mục
- Quan điểm & bình luận
- Điểm AI
- 64
作者借 Koomey 定律类比,把本地模型与云端效率数据放进历史框架,帮助读者理解端侧 AI 的演进节奏。
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Mô hình AI cục bộ đã đáp ứng được 89% truy vấn hàng ngày, trung tâm dữ liệu sẽ hướng tới cá nhân hóa. 21 tháng 8 2026. https://new.nat6.net/vi/news/cmtggvk4n0cgxroj7axiz5gik/