Bài báo & nghiên cứu

OpenAI dùng AI tấn công AI của chính mình: GPT-Red tự động phát hiện lỗ hổng bảo mật, tỷ lệ thành công 84% vượt xa con người

Tiêu đề gốc:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did

Tóm tắt AI

OpenAI đã huấn luyện mô hình AI nội bộ GPT-Red, tự động mô phỏng các cuộc tấn công như chèn lệnh thông qua học tăng cường tự đối kháng, đạt tỷ lệ thành công 84% trong các kịch bản kiểm thử, trong khi red team con người chỉ đạt 13%. Phát hiện của GPT-Red được dùng trực tiếp để huấn luyện, giúp GPT-5.6 Sol giảm sáu lần số lần thất bại trước chèn lệnh trực tiếp so với mô hình tốt nhất bốn tháng trước, mà không ảnh hưởng đến hiệu năng chung. Khoảng 3,8% lệnh chèn "mạnh hơn" vẫn có thể thành công, GPT-Red hiện chưa mở cho bên ngoài.

Thông tin chính

  • OpenAI đã huấn luyện mô hình AI nội bộ GPT-Red,tự động mô phỏng các cuộc tấn công như chèn lệnh…
  • Phát hiện của GPT-Red được dùng trực tiếp để huấn luyện,giúp GPT-5.
  • 6 Sol giảm sáu lần số lần thất bại trước chèn lệnh trực tiếp so với mô hình tốt nhất bốn tháng…
  • Khoảng 3,8% lệnh chèn "mạnh hơn" vẫn có thể thành công,GPT-Red hiện chưa mở cho bên ngoài.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
The Decoder:AI News(RSS)
Danh mục
Bài báo & nghiên cứu
Điểm AI
71
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: OpenAI dùng AI tấn công AI của chính mình: GPT-Red tự động phát hiện lỗ hổng bảo mật, tỷ lệ thành công 84% vượt xa con người. 16 tháng 7 2026. https://new.nat6.net/vi/news/cmrmi4f4x01ilbiul55xb25fm/

Xem tất cả →