Bài báo & nghiên cứu

Anthropic phát triển và đánh giá ba tác nhân AI tự động thực hiện kiểm toán căn chỉnh

Tiêu đề gốc:Building and evaluating alignment auditing agents

Tóm tắt AI

Anthropic công bố ba tác nhân AI tự chủ thực hiện nhiệm vụ kiểm toán căn chỉnh, và đánh giá bằng môi trường mô hình có cài lỗi. Tác nhân điều tra dưới điều kiện thực tế đạt tỷ lệ thắng 13% trong trò chơi kiểm toán Marks et al., sau khi tổng hợp đa tác nhân tăng lên 42%; tác nhân đánh giá phân biệt được mô hình có/không có hành vi cài trong 88% lần chạy; tác nhân red team ưu tiên theo chiều rộng phát hiện 7 trong 10 hành vi cài.

Thông tin chính

  • Anthropic công bố ba tác nhân AI tự chủ thực hiện nhiệm vụ kiểm toán căn chỉnh,và đánh giá bằng…
  • Tác nhân điều tra dưới điều kiện thực tế đạt tỷ lệ thắng 13% trong trò chơi kiểm toán Marks et al.
  • ,sau khi tổng hợp đa tác nhân tăng lên 42%
  • tác nhân đánh giá phân biệt được mô hình có/không có hành vi cài trong 88% lần chạy
  • tác nhân red team ưu tiên theo chiều rộng phát hiện 7 trong 10 hành vi cài.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Anthropic:Alignment Science Blog(网页)
Danh mục
Bài báo & nghiên cứu
Điểm AI
68
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Anthropic phát triển và đánh giá ba tác nhân AI tự động thực hiện kiểm toán căn chỉnh. 25 tháng 7 2025. https://new.nat6.net/vi/news/b2vmn7tkytgs01vo5htab6uon/

Xem tất cả →