Мнения

OpenAI в большой статье описала трудности выравнивания и мониторинга, заявив об ослаблении контроля CoT

Оригинальный заголовок:An Alien Mind

ИИ-резюме

OpenAI опубликовала статью «An Alien Mind», в которой вспоминает проект RLSlow 2023 года как отправную точку подтверждения масштабируемого обучения моделей рассуждения и системно разграничивает выравнивание целей и выравнивание ценностей. Отмечается, что эффективность мониторинга цепочки рассуждений постепенно снижается по мере роста возможностей моделей; GPT-6 Astra значительно превосходит GPT-5.6 Sol по выравниванию. Авторы ожидают, что прогресс может привести к машинному рекурсивному самоулучшению (RSI), и призывают к добровольному замедлению масштабирования, созданию сторонних порогов безопасности и усилению международной координации.

Ключевые моменты

  • OpenAI опубликовала статью «An Alien Mind»,в которой вспоминает проект RLSlow 2023 года как…
  • Отмечается,что эффективность мониторинга цепочки рассуждений постепенно снижается по мере роста…
  • GPT-6 Astra значительно превосходит GPT-5.
  • 6 Sol по выравниванию.
  • Авторы ожидают,что прогресс может привести к машинному рекурсивному самоулучшению (RSI),и…

Кратко

Опубликовано
Обновлено
Источник
OpenAI:官网动态(RSS · 排除企业/客户案例)
Категория
Мнения
Оценка ИИ
72
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

作者以内部视角回溯推理模型的起源,并给出对齐监测、CoT 监控弱化和 RSI 风险的一手判断。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: OpenAI в большой статье описала трудности выравнивания и мониторинга, заявив об ослаблении контроля CoT. 6 сентября 2026. https://new.nat6.net/ru/news/cmtq23v6k01aorotwh8xip8r1/

Смотреть все →