Открытый инструмент выравнивания Petri передан сообществу
Оригинальный заголовок:Donating our open-source alignment tool
ИИ-резюме
В октябре 2025 года Anthropic открыла исходный код набора инструментов для тестирования выравнивания ИИ-моделей Petri, предназначенного для быстрого выявления склонностей моделей к обману, лести и другим рискам. Инструмент стал ключевой частью оценки выравнивания серии моделей Claude и был принят такими внешними организациями, как Институт безопасности ИИ Великобритании. Недавно Petri обновился до версии 3.0; основные улучшения включают: переработанную архитектуру для большей адаптивности, позволяющую отдельно настраивать аудит и целевую модель; использование реальных системных подсказок и среды развёртывания через компонент Dish для повышения реалистичности тестирования; интеграцию с другим открытым инструментом Bloom для более глубокой оценки поведения. Для обеспечения независимости и доверия разработка Petri передана некоммерческой организации Meridian Labs.
Ключевые моменты
- В октябре 2025 года Anthropic открыла исходный код набора инструментов для тестирования…
- Инструмент стал ключевой частью оценки выравнивания серии моделей Claude и был принят такими…
- Недавно Petri обновился до версии 3.
- основные улучшения включают: переработанную архитектуру для большей адаптивности,позволяющую…
- использование реальных системных подсказок и среды развёртывания через компонент Dish для…
Кратко
- Опубликовано
- Обновлено
- Источник
- Anthropic:Research(发表成果 · 网页)
- Категория
- Продукты и приложения
- Оценка ИИ
- 73
Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Открытый инструмент выравнивания Petri передан сообществу. 7 мая 2026. https://new.nat6.net/ru/news/cmow01hfu01nwslcxdc8cl10x/