Статьи и исследования

METR проверила раздел о выравнивании в отчёте о рисках Anthropic за август 2026 года: согласна с выводом о низком риске, но сомневается в методах оценки

Оригинальный заголовок:Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)

ИИ-резюме

METR опубликовала независимую внешнюю проверку раздела «Невыровненность в сценариях высокого риска» отчёта Anthropic о рисках за август 2026 года. Она в целом согласна с тем, что по состоянию на 15 июля 2026 года катастрофический риск невыровненности Mythos 5 и внутренней модели Model 2 был низким, но считает, что это в основном связано с ограниченными возможностями моделей, а не с мерами безопасности.

Ключевые моменты

  • METR опубликовала независимую внешнюю проверку раздела «Невыровненность в сценариях высокого…
  • Она в целом согласна с тем,что по состоянию на 15 июля 2026 года катастрофический риск…
  • но считает,что это в основном связано с ограниченными возможностями моделей,а не с мерами…

Кратко

Опубликовано
Обновлено
Источник
METR:Blog(网页)
Категория
Статьи и исследования
Тема
Anthropic / ClaudeБезопасность и выравнивание
Оценка ИИ
69
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

METR 独立审查了 Anthropic 风险报告的对齐章节,指出隐藏 CoT 评估无法覆盖 CoT 合理化攻击面,并给出监测系统红队测试建议。

Темы

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: METR проверила раздел о выравнивании в отчёте о рисках Anthropic за август 2026 года: согласна с выводом о низком риске, но сомневается в методах оценки. 20 октября 2026. https://new.nat6.net/ru/news/kvok7sv5ddw0i5n62gbtuwtt3/

Смотреть все →