OpenAI в большой статье описала трудности выравнивания и мониторинга, заявив об ослаблении контроля CoT
Оригинальный заголовок:An Alien Mind
ИИ-резюме
OpenAI опубликовала статью «An Alien Mind», в которой вспоминает проект RLSlow 2023 года как отправную точку подтверждения масштабируемого обучения моделей рассуждения и системно разграничивает выравнивание целей и выравнивание ценностей. Отмечается, что эффективность мониторинга цепочки рассуждений постепенно снижается по мере роста возможностей моделей; GPT-6 Astra значительно превосходит GPT-5.6 Sol по выравниванию. Авторы ожидают, что прогресс может привести к машинному рекурсивному самоулучшению (RSI), и призывают к добровольному замедлению масштабирования, созданию сторонних порогов безопасности и усилению международной координации.
Ключевые моменты
- OpenAI опубликовала статью «An Alien Mind»,в которой вспоминает проект RLSlow 2023 года как…
- Отмечается,что эффективность мониторинга цепочки рассуждений постепенно снижается по мере роста…
- GPT-6 Astra значительно превосходит GPT-5.
- 6 Sol по выравниванию.
- Авторы ожидают,что прогресс может привести к машинному рекурсивному самоулучшению (RSI),и…
Кратко
- Опубликовано
- Обновлено
- Источник
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Категория
- Мнения
- Оценка ИИ
- 72
作者以内部视角回溯推理模型的起源,并给出对齐监测、CoT 监控弱化和 RSI 风险的一手判断。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: OpenAI в большой статье описала трудности выравнивания и мониторинга, заявив об ослаблении контроля CoT. 6 сентября 2026. https://new.nat6.net/ru/news/cmtq23v6k01aorotwh8xip8r1/