Bài báo & nghiên cứu

OpenAI dùng huấn luyện red team tự động để nâng độ bền vững mơ hồ của GPT-6 Astra và Sol trong các lĩnh vực rủi ro cao

Tiêu đề gốc:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming

Tóm tắt AI

Nhóm nghiên cứu OpenAI giới thiệu cách dùng red team tự động để nâng cao độ bền vững mơ hồ của mô hình trong các lĩnh vực lưỡng dụng rủi ro cao như mạng và sinh học, thông qua việc mở rộng compute lúc kiểm thử của mô hình tấn công để tìm kiếm jailbreak lặp đi lặp lại, đồng thời yêu cầu cuộc tấn công thành công trong nhiều lần kiểm thử lặp lại (worst@n), tạo dữ liệu huấn luyện đối kháng đáng tin cậy dùng cho huấn luyện RL.

Thông tin chính

  • Nhóm nghiên cứu OpenAI giới thiệu cách dùng red team tự động để nâng cao độ bền vững mơ hồ của mô…
  • thông qua việc mở rộng compute lúc kiểm thử của mô hình tấn công để tìm kiếm jailbreak lặp đi lặp…
  • đồng thời yêu cầu cuộc tấn công thành công trong nhiều lần kiểm thử lặp lại (worst@n),tạo dữ liệu…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
OpenAI:Alignment 研究博客(RSS)
Danh mục
Bài báo & nghiên cứu
Chủ đề
OpenAI / ChatGPTAn toàn và căn chỉnh
Điểm AI
62
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

OpenAI 自己披露的训练方法细节,展示了用自动化攻击生成数据提升模糊鲁棒性的可控实验和结果。

Chủ đề liên quan

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: OpenAI dùng huấn luyện red team tự động để nâng độ bền vững mơ hồ của GPT-6 Astra và Sol trong các lĩnh vực rủi ro cao. 12 tháng 11 2026. https://new.nat6.net/vi/news/yg97h3u5vthadivuv5po5f0aw/

Xem tất cả →