ARC publica avances en la evaluación de capacidades peligrosas de Claude y GPT-4
Título original:Update on ARC's recent eval efforts
Resumen de IA
ARC, como evaluador externo, colabora con laboratorios como Anthropic y OpenAI para probar en entornos controlados las capacidades peligrosas de modelos de vanguardia, como obtener recursos de forma autónoma y evadir la supervisión humana. La conclusión es que ninguna de las versiones evaluadas de Claude y GPT-4 logró producir un plan completo y creíble de autorreplicación autónoma; durante la ejecución cometían errores con facilidad, alucinaban y tenían dificultades para repartir tareas entre múltiples copias, aunque podían completar parcialmente subtareas como navegar por la web, contratar a humanos para encargos y elaborar planes a largo plazo.
Puntos clave
- ARC,como evaluador externo,colabora con laboratorios como Anthropic y OpenAI para probar en…
- La conclusión es que ninguna de las versiones evaluadas de Claude y GPT-4 logró producir un plan…
- durante la ejecución cometían errores con facilidad,alucinaban y tenían dificultades para repartir…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- METR:Research(网页)
- Categoría
- Tutoriales y consejos
- Puntuación IA
- 70
ARC 公布了危险能力评测的动机、方法与结论,读者可以了解模型自主复制能力的评估方式。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: ARC publica avances en la evaluación de capacidades peligrosas de Claude y GPT-4. 17. marzo 2023. https://new.nat6.net/es/news/cmtyo7nb803vtrog068p1fir1/