Anthropic mã nguồn mở công cụ kiểm toán an toàn AI Petri, dùng tác nhân tự động kiểm thử hành vi căn chỉnh của mô hình
Tiêu đề gốc:Petri: An open-source auditing tool to accelerate AI safety research
Tóm tắt AI
Anthropic phát hành framework kiểm toán tự động mã nguồn mở Petri (Parallel Exploration Tool for Risky Interactions), dùng tác nhân kiểm toán AI để kiểm thử mô hình mục tiêu trong các kịch bản nhiều lượt; công cụ có tại github.com/safety-research/petri.
Thông tin chính
- Anthropic phát hành framework kiểm toán tự động mã nguồn mở Petri (Parallel Exploration Tool for…
- công cụ có tại github.
- com/safety-research/petri.
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Sản phẩm & ứng dụng
- Điểm AI
- 71
Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Anthropic mã nguồn mở công cụ kiểm toán an toàn AI Petri, dùng tác nhân tự động kiểm thử hành vi căn chỉnh của mô hình. 7 tháng 10 2025. https://new.nat6.net/vi/news/hx673sxz7gq2e6uvq7rep6u4r/