Anthropic открыла исходный код инструмента аудита безопасности ИИ Petri для автоматического тестирования выравнивания моделей агентами
Оригинальный заголовок:Petri: An open-source auditing tool to accelerate AI safety research
ИИ-резюме
Anthropic выпустила фреймворк автоматического аудита Petri (Parallel Exploration Tool for Risky Interactions) с открытым исходным кодом: ИИ-агент-аудитор тестирует целевую модель в многораундовых сценариях. Инструмент доступен по адресу github.com/safety-research/petri.
Ключевые моменты
- Anthropic выпустила фреймворк автоматического аудита Petri (Parallel Exploration Tool for Risky…
- Инструмент доступен по адресу github.
- com/safety-research/petri.
Кратко
- Опубликовано
- Обновлено
- Источник
- Anthropic:Alignment Science Blog(网页)
- Категория
- Продукты и приложения
- Оценка ИИ
- 71
Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Anthropic открыла исходный код инструмента аудита безопасности ИИ Petri для автоматического тестирования выравнивания моделей агентами. 7 октября 2025. https://new.nat6.net/ru/news/hx673sxz7gq2e6uvq7rep6u4r/