Tutoriales y consejos

ARC publica avances en la evaluación de capacidades peligrosas de Claude y GPT-4

Título original:Update on ARC's recent eval efforts

Resumen de IA

ARC, como evaluador externo, colabora con laboratorios como Anthropic y OpenAI para probar en entornos controlados las capacidades peligrosas de modelos de vanguardia, como obtener recursos de forma autónoma y evadir la supervisión humana. La conclusión es que ninguna de las versiones evaluadas de Claude y GPT-4 logró producir un plan completo y creíble de autorreplicación autónoma; durante la ejecución cometían errores con facilidad, alucinaban y tenían dificultades para repartir tareas entre múltiples copias, aunque podían completar parcialmente subtareas como navegar por la web, contratar a humanos para encargos y elaborar planes a largo plazo.

Puntos clave

  • ARC,como evaluador externo,colabora con laboratorios como Anthropic y OpenAI para probar en…
  • La conclusión es que ninguna de las versiones evaluadas de Claude y GPT-4 logró producir un plan…
  • durante la ejecución cometían errores con facilidad,alucinaban y tenían dificultades para repartir…

Resumen rápido

Publicado
Actualizado
Fuente
METR:Research(网页)
Categoría
Tutoriales y consejos
Puntuación IA
70
Leer el original Leer el artículo completo en la fuente original
Por qué importa

ARC 公布了危险能力评测的动机、方法与结论,读者可以了解模型自主复制能力的评估方式。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: ARC publica avances en la evaluación de capacidades peligrosas de Claude y GPT-4. 17. marzo 2023. https://new.nat6.net/es/news/cmtyo7nb803vtrog068p1fir1/

Ver todo →