ARC publie les avancées de l'évaluation des capacités dangereuses de Claude et GPT-4
Titre original:Update on ARC's recent eval efforts
Résumé IA
En tant qu'évaluateur tiers, ARC collabore avec Anthropic, OpenAI et d'autres laboratoires pour tester, en environnement contrôlé, la capacité dangereuse des modèles de pointe à acquérir des ressources de manière autonome et à échapper à la supervision humaine. Conclusion : les versions testées de Claude et GPT-4 n'ont pas produit de plan complet crédible de réplication autonome ; elles commettent facilement des erreurs, hallucinent et ont du mal à répartir les tâches entre plusieurs copies, mais peuvent accomplir partiellement certaines sous-tâches comme naviguer sur le web, recruter des humains pour des tâches et élaborer des plans à long terme.
Points clés
- En tant qu'évaluateur tiers,ARC collabore avec Anthropic,OpenAI et d'autres laboratoires pour…
- Conclusion: les versions testées de Claude et GPT-4 n'ont pas produit de plan complet crédible de…
- elles commettent facilement des erreurs,hallucinent et ont du mal à répartir les tâches entre…
En bref
- Publié
- Mis à jour
- Source
- METR:Research(网页)
- Catégorie
- Tutoriels et astuces
- Score IA
- 70
ARC 公布了危险能力评测的动机、方法与结论,读者可以了解模型自主复制能力的评估方式。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : ARC publie les avancées de l'évaluation des capacités dangereuses de Claude et GPT-4. 17. mars 2023. https://new.nat6.net/fr/news/cmtyo7nb803vtrog068p1fir1/