Tutoriels et astuces

ARC publie les avancées de l'évaluation des capacités dangereuses de Claude et GPT-4

Titre original:Update on ARC's recent eval efforts

Résumé IA

En tant qu'évaluateur tiers, ARC collabore avec Anthropic, OpenAI et d'autres laboratoires pour tester, en environnement contrôlé, la capacité dangereuse des modèles de pointe à acquérir des ressources de manière autonome et à échapper à la supervision humaine. Conclusion : les versions testées de Claude et GPT-4 n'ont pas produit de plan complet crédible de réplication autonome ; elles commettent facilement des erreurs, hallucinent et ont du mal à répartir les tâches entre plusieurs copies, mais peuvent accomplir partiellement certaines sous-tâches comme naviguer sur le web, recruter des humains pour des tâches et élaborer des plans à long terme.

Points clés

  • En tant qu'évaluateur tiers,ARC collabore avec Anthropic,OpenAI et d'autres laboratoires pour…
  • Conclusion: les versions testées de Claude et GPT-4 n'ont pas produit de plan complet crédible de…
  • elles commettent facilement des erreurs,hallucinent et ont du mal à répartir les tâches entre…

En bref

Publié
Mis à jour
Source
METR:Research(网页)
Catégorie
Tutoriels et astuces
Score IA
70
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

ARC 公布了危险能力评测的动机、方法与结论,读者可以了解模型自主复制能力的评估方式。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : ARC publie les avancées de l'évaluation des capacités dangereuses de Claude et GPT-4. 17. mars 2023. https://new.nat6.net/fr/news/cmtyo7nb803vtrog068p1fir1/

Tout voir →