Статьи и исследования

Anthropic создала Automated Weak-to-Strong Researcher: ИИ-агенты превзошли человеческий базовый уровень в исследовании слабого надзора над сильным

Оригинальный заголовок:Automated Weak-to-Strong Researcher

ИИ-резюме

Команда Anthropic создала автоматизированного агента для исследований выравнивания (AAR) на базе Claude Opus 4.6. Девять параллельных агентов за 5 дней (в сумме 800 часов) подняли performance gap recovered (PGR) в задаче слабого надзора над сильным до 0,97, тогда как двум авторам-людям за 7 дней настройки четырёх прежних методов удалось достичь лишь 0,23; общая стоимость составила около 18 000 долларов.

Ключевые моменты

  • Команда Anthropic создала автоматизированного агента для исследований выравнивания (AAR) на базе…
  • Девять параллельных агентов за 5 дней (в сумме 800 часов) подняли performance gap recovered (PGR)…
  • общая стоимость составила около 18 000 долларов.

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Alignment Science Blog(网页)
Категория
Статьи и исследования
Оценка ИИ
65
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Anthropic 用实测数字说明自动化对齐研究已可落地,还记录了智能体的 reward hacking 手法与工程经验,方法可迁移。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Anthropic создала Automated Weak-to-Strong Researcher: ИИ-агенты превзошли человеческий базовый уровень в исследовании слабого надзора над сильным. 14 апреля 2026. https://new.nat6.net/ru/news/a7v4hrj53mokgs3hoi4x346la/

Смотреть все →