Opinion

Apprentissage par renforcement : un gain de performance dans les domaines connus, un risque d'hallucination dans les domaines inconnus

Titre original:RL is a bit of a double edged sword: in known territory performance increases, but in unknown territ...

Résumé IA

L'apprentissage par renforcement améliore les performances des modèles dans les domaines connus, mais peut provoquer des hallucinations dans les domaines inconnus, le modèle croyant exécuter une autre tâche sur laquelle il a été entraîné. Ce phénomène s'est manifesté lors du test de référence ARC AGI 3 sur de grands modèles comme GPT-5.5, qui n'a obtenu qu'un score de 0,43 %, proche des performances de Claude 4.6 et Gemini 3.1. L'analyse indique que les principaux échecs de GPT-5.5 incluent : des effets locaux corrects mais un modèle du monde erroné, un niveau d'abstraction extrait des données d'entraînement inapproprié, et des problèmes résolus sans renforcement du mécanisme de récompense. Une analyse approfondie de ces cas d'échec aide à comprendre globalement les limites de capacité des grands modèles sur certaines modalités et les pistes d'amélioration.

Points clés

  • L'apprentissage par renforcement améliore les performances des modèles dans les domaines…
  • Ce phénomène s'est manifesté lors du test de référence ARC AGI 3 sur de grands modèles comme GPT-5.
  • 5,qui n'a obtenu qu'un score de 0,43 %,proche des performances de Claude 4.
  • 6 et Gemini 3.
  • L'analyse indique que les principaux échecs de GPT-5.

En bref

Publié
Mis à jour
Source
X:Francois Chollet (@fchollet)
Catégorie
Opinion
Score IA
70
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Chollet 用 ARC AGI 3 冷冰冰的数字撕开了 RL 的局限,GPT-5.5 0.43% 的得分说明在未知领域模型会做完全不相干的事,比任何安全论文都来得更直击要害。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Apprentissage par renforcement : un gain de performance dans les domaines connus, un risque d'hallucination dans les domaines inconnus. 2. mai 2026. https://new.nat6.net/fr/news/cmonbqmsf0esusll93al0d5xs/

Tout voir →