Продукты и приложения

Открытый инструмент выравнивания Petri передан сообществу

Оригинальный заголовок:Donating our open-source alignment tool

ИИ-резюме

В октябре 2025 года Anthropic открыла исходный код набора инструментов для тестирования выравнивания ИИ-моделей Petri, предназначенного для быстрого выявления склонностей моделей к обману, лести и другим рискам. Инструмент стал ключевой частью оценки выравнивания серии моделей Claude и был принят такими внешними организациями, как Институт безопасности ИИ Великобритании. Недавно Petri обновился до версии 3.0; основные улучшения включают: переработанную архитектуру для большей адаптивности, позволяющую отдельно настраивать аудит и целевую модель; использование реальных системных подсказок и среды развёртывания через компонент Dish для повышения реалистичности тестирования; интеграцию с другим открытым инструментом Bloom для более глубокой оценки поведения. Для обеспечения независимости и доверия разработка Petri передана некоммерческой организации Meridian Labs.

Ключевые моменты

  • В октябре 2025 года Anthropic открыла исходный код набора инструментов для тестирования…
  • Инструмент стал ключевой частью оценки выравнивания серии моделей Claude и был принят такими…
  • Недавно Petri обновился до версии 3.
  • основные улучшения включают: переработанную архитектуру для большей адаптивности,позволяющую…
  • использование реальных системных подсказок и среды развёртывания через компонент Dish для…

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Research(发表成果 · 网页)
Категория
Продукты и приложения
Оценка ИИ
73
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Открытый инструмент выравнивания Petri передан сообществу. 7 мая 2026. https://new.nat6.net/ru/news/cmow01hfu01nwslcxdc8cl10x/

Смотреть все →