Двойственный эффект обучения с подкреплением: рост качества в известных областях и галлюцинации в неизвестных
Оригинальный заголовок:RL is a bit of a double edged sword: in known territory performance increases, but in unknown territ...
ИИ-резюме
Обучение с подкреплением повышает качество модели в известных областях, но в неизвестных может приводить к галлюцинациям, когда модель ошибочно считает, что выполняет другую задачу из обучения. Этот эффект проявился в тесте ARC AGI 3 для больших моделей, включая GPT-5.5: её результат составил лишь 0,43%, что близко к показателям Claude 4.6 и Gemini 3.1. Анализ указывает основные причины неудач GPT-5.5: локальный эффект верен, но модель мира ошибочна; выбран неверный уровень абстракции из обучающих данных; задача решена, но механизм вознаграждения не усилен. Глубокий разбор таких случаев помогает полнее понять ограничения больших моделей в конкретных модальностях и направления улучшения.
Ключевые моменты
- Обучение с подкреплением повышает качество модели в известных областях,но в неизвестных может…
- Этот эффект проявился в тесте ARC AGI 3 для больших моделей,включая GPT-5.
- 5: её результат составил лишь 0,43%,что близко к показателям Claude 4.
- 6 и Gemini 3.
- Анализ указывает основные причины неудач GPT-5.
Кратко
- Опубликовано
- Обновлено
- Источник
- X:Francois Chollet (@fchollet)
- Категория
- Мнения
- Оценка ИИ
- 70
Chollet 用 ARC AGI 3 冷冰冰的数字撕开了 RL 的局限,GPT-5.5 0.43% 的得分说明在未知领域模型会做完全不相干的事,比任何安全论文都来得更直击要害。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Двойственный эффект обучения с подкреплением: рост качества в известных областях и галлюцинации в неизвестных. 2 мая 2026. https://new.nat6.net/ru/news/cmonbqmsf0esusll93al0d5xs/