METR проверила раздел о выравнивании в отчёте о рисках Anthropic за август 2026 года: согласна с выводом о низком риске, но сомневается в методах оценки
Оригинальный заголовок:Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)
ИИ-резюме
METR опубликовала независимую внешнюю проверку раздела «Невыровненность в сценариях высокого риска» отчёта Anthropic о рисках за август 2026 года. Она в целом согласна с тем, что по состоянию на 15 июля 2026 года катастрофический риск невыровненности Mythos 5 и внутренней модели Model 2 был низким, но считает, что это в основном связано с ограниченными возможностями моделей, а не с мерами безопасности.
Ключевые моменты
- METR опубликовала независимую внешнюю проверку раздела «Невыровненность в сценариях высокого…
- Она в целом согласна с тем,что по состоянию на 15 июля 2026 года катастрофический риск…
- но считает,что это в основном связано с ограниченными возможностями моделей,а не с мерами…
Кратко
- Опубликовано
- Обновлено
- Источник
- METR:Blog(网页)
- Категория
- Статьи и исследования
- Оценка ИИ
- 69
METR 独立审查了 Anthropic 风险报告的对齐章节,指出隐藏 CoT 评估无法覆盖 CoT 合理化攻击面,并给出监测系统红队测试建议。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: METR проверила раздел о выравнивании в отчёте о рисках Anthropic за август 2026 года: согласна с выводом о низком риске, но сомневается в методах оценки. 20 октября 2026. https://new.nat6.net/ru/news/kvok7sv5ddw0i5n62gbtuwtt3/