Статьи и исследования

Исследователи автоматизированного выравнивания: масштабирование надзора с помощью больших языковых моделей

Оригинальный заголовок:Automated Alignment Researchers: Using large language models to scale scalable oversight

ИИ-резюме

Anthropic развернула 9 экземпляров Claude Opus 4.6 в качестве автоматизированных исследователей выравнивания (AARs), которые в рамках схемы надзора «от слабого к сильному» автономно проводили исследования в течение 800 часов. Самостоятельно предлагая, тестируя и оптимизируя решения по выравниванию, AARs повысили коэффициент восстановления разрыва в производительности (PGR) с 0,23 до 0,97 при затратах около 18 тыс. долларов. Исследование показывает, что современные большие модели уже способны самостоятельно проводить исследования выравнивания, предлагая осуществимый путь к решению проблемы масштабируемого надзора за сверхчеловеческим ИИ.

Ключевые моменты

  • Anthropic развернула 9 экземпляров Claude Opus 4.
  • 6 в качестве автоматизированных исследователей выравнивания (AARs),которые в рамках схемы надзора…
  • Самостоятельно предлагая,тестируя и оптимизируя решения по выравниванию,AARs повысили коэффициент…
  • долларов.
  • Исследование показывает,что современные большие модели уже способны самостоятельно проводить…

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Research(发表成果 · 网页)
Категория
Статьи и исследования
Оценка ИИ
74
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Исследователи автоматизированного выравнивания: масштабирование надзора с помощью больших языковых моделей. 14 апреля 2026. https://new.nat6.net/ru/news/cmnyzulbd01gcsl0fgdwxquf2/

Смотреть все →