Anthropic phát triển và đánh giá ba tác nhân AI tự động thực hiện kiểm toán căn chỉnh
Tiêu đề gốc:Building and evaluating alignment auditing agents
Tóm tắt AI
Anthropic công bố ba tác nhân AI tự chủ thực hiện nhiệm vụ kiểm toán căn chỉnh, và đánh giá bằng môi trường mô hình có cài lỗi. Tác nhân điều tra dưới điều kiện thực tế đạt tỷ lệ thắng 13% trong trò chơi kiểm toán Marks et al., sau khi tổng hợp đa tác nhân tăng lên 42%; tác nhân đánh giá phân biệt được mô hình có/không có hành vi cài trong 88% lần chạy; tác nhân red team ưu tiên theo chiều rộng phát hiện 7 trong 10 hành vi cài.
Thông tin chính
- Anthropic công bố ba tác nhân AI tự chủ thực hiện nhiệm vụ kiểm toán căn chỉnh,và đánh giá bằng…
- Tác nhân điều tra dưới điều kiện thực tế đạt tỷ lệ thắng 13% trong trò chơi kiểm toán Marks et al.
- ,sau khi tổng hợp đa tác nhân tăng lên 42%
- tác nhân đánh giá phân biệt được mô hình có/không có hành vi cài trong 88% lần chạy
- tác nhân red team ưu tiên theo chiều rộng phát hiện 7 trong 10 hành vi cài.
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Bài báo & nghiên cứu
- Điểm AI
- 68
Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Anthropic phát triển và đánh giá ba tác nhân AI tự động thực hiện kiểm toán căn chỉnh. 25 tháng 7 2025. https://new.nat6.net/vi/news/b2vmn7tkytgs01vo5htab6uon/