Sản phẩm & ứng dụng

Anthropic mã nguồn mở công cụ kiểm toán an toàn AI Petri, dùng tác nhân tự động kiểm thử hành vi căn chỉnh của mô hình

Tiêu đề gốc:Petri: An open-source auditing tool to accelerate AI safety research

Tóm tắt AI

Anthropic phát hành framework kiểm toán tự động mã nguồn mở Petri (Parallel Exploration Tool for Risky Interactions), dùng tác nhân kiểm toán AI để kiểm thử mô hình mục tiêu trong các kịch bản nhiều lượt; công cụ có tại github.com/safety-research/petri.

Thông tin chính

  • Anthropic phát hành framework kiểm toán tự động mã nguồn mở Petri (Parallel Exploration Tool for…
  • công cụ có tại github.
  • com/safety-research/petri.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Anthropic:Alignment Science Blog(网页)
Danh mục
Sản phẩm & ứng dụng
Điểm AI
71
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Anthropic mã nguồn mở công cụ kiểm toán an toàn AI Petri, dùng tác nhân tự động kiểm thử hành vi căn chỉnh của mô hình. 7 tháng 10 2025. https://new.nat6.net/vi/news/hx673sxz7gq2e6uvq7rep6u4r/

Xem tất cả →