Bài báo & nghiên cứu

Dữ liệu trò chuyện công khai có dự đoán được sự lệch chuẩn AI trong thực tế?

Tiêu đề gốc:Can public chat data predict real-world AI misalignments?

Tóm tắt AI

OpenAI sử dụng bộ dữ liệu công khai WildChat (1 triệu cuộc hội thoại thu thập từ tháng 4/2023 đến tháng 5/2024) để mô phỏng triển khai mô hình, dự đoán tỷ lệ hành vi không mong muốn của GPT-5.1, GPT-5.2, GPT-5.4 trong môi trường sản xuất thực tế. So sánh với dữ liệu sản xuất riêng tư cho thấy sai số dự đoán trung bình của mô phỏng WildChat khoảng 3 lần; nhưng độ chính xác dự đoán giảm với sự lệch chuẩn kỹ thuật và dạng tác nhân AI. Nghiên cứu xác nhận tính khả thi của bộ dữ liệu công khai như công cụ kiểm toán bên ngoài.

Thông tin chính

  • OpenAI sử dụng bộ dữ liệu công khai WildChat (1 triệu cuộc hội thoại thu thập từ tháng 4/2023 đến…
  • 4 trong môi trường sản xuất thực tế.
  • So sánh với dữ liệu sản xuất riêng tư cho thấy sai số dự đoán trung bình của mô phỏng WildChat…
  • nhưng độ chính xác dự đoán giảm với sự lệch chuẩn kỹ thuật và dạng tác nhân AI.
  • Nghiên cứu xác nhận tính khả thi của bộ dữ liệu công khai như công cụ kiểm toán bên ngoài.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
OpenAI:Alignment 研究博客(RSS)
Danh mục
Bài báo & nghiên cứu
Điểm AI
73
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

用公开旧聊天数据预测模型真实失败率,误差居然在 3 倍以内,做外部审计的可以认真看看。不过 agentic 场景明显不行,需要新数据集。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Dữ liệu trò chuyện công khai có dự đoán được sự lệch chuẩn AI trong thực tế?. 17 tháng 6 2026. https://new.nat6.net/vi/news/cmqh269tl004esle1vztceb34/

Xem tất cả →