Продукты и приложения

Anthropic открыла исходный код инструмента аудита безопасности ИИ Petri для автоматического тестирования выравнивания моделей агентами

Оригинальный заголовок:Petri: An open-source auditing tool to accelerate AI safety research

ИИ-резюме

Anthropic выпустила фреймворк автоматического аудита Petri (Parallel Exploration Tool for Risky Interactions) с открытым исходным кодом: ИИ-агент-аудитор тестирует целевую модель в многораундовых сценариях. Инструмент доступен по адресу github.com/safety-research/petri.

Ключевые моменты

  • Anthropic выпустила фреймворк автоматического аудита Petri (Parallel Exploration Tool for Risky…
  • Инструмент доступен по адресу github.
  • com/safety-research/petri.

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Alignment Science Blog(网页)
Категория
Продукты и приложения
Оценка ИИ
71
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Anthropic открыла исходный код инструмента аудита безопасности ИИ Petri для автоматического тестирования выравнивания моделей агентами. 7 октября 2025. https://new.nat6.net/ru/news/hx673sxz7gq2e6uvq7rep6u4r/

Смотреть все →