Мнения

Двойственный эффект обучения с подкреплением: рост качества в известных областях и галлюцинации в неизвестных

Оригинальный заголовок:RL is a bit of a double edged sword: in known territory performance increases, but in unknown territ...

ИИ-резюме

Обучение с подкреплением повышает качество модели в известных областях, но в неизвестных может приводить к галлюцинациям, когда модель ошибочно считает, что выполняет другую задачу из обучения. Этот эффект проявился в тесте ARC AGI 3 для больших моделей, включая GPT-5.5: её результат составил лишь 0,43%, что близко к показателям Claude 4.6 и Gemini 3.1. Анализ указывает основные причины неудач GPT-5.5: локальный эффект верен, но модель мира ошибочна; выбран неверный уровень абстракции из обучающих данных; задача решена, но механизм вознаграждения не усилен. Глубокий разбор таких случаев помогает полнее понять ограничения больших моделей в конкретных модальностях и направления улучшения.

Ключевые моменты

  • Обучение с подкреплением повышает качество модели в известных областях,но в неизвестных может…
  • Этот эффект проявился в тесте ARC AGI 3 для больших моделей,включая GPT-5.
  • 5: её результат составил лишь 0,43%,что близко к показателям Claude 4.
  • 6 и Gemini 3.
  • Анализ указывает основные причины неудач GPT-5.

Кратко

Опубликовано
Обновлено
Источник
X:Francois Chollet (@fchollet)
Категория
Мнения
Оценка ИИ
70
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Chollet 用 ARC AGI 3 冷冰冰的数字撕开了 RL 的局限,GPT-5.5 0.43% 的得分说明在未知领域模型会做完全不相干的事,比任何安全论文都来得更直击要害。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Двойственный эффект обучения с подкреплением: рост качества в известных областях и галлюцинации в неизвестных. 2 мая 2026. https://new.nat6.net/ru/news/cmonbqmsf0esusll93al0d5xs/

Смотреть все →