Artículos e investigación

Patrones y problemas de los sistemas emergentes multiagente

Título original:Patterns and problems in emerging multiagent systems

Resumen de IA

Una investigación de Anthropic señala que, a medida que los agentes de IA asumen más tareas en sistemas sociales como repositorios de código compartidos y mercados, el volumen de interacciones entre agentes podría superar el de las interacciones entre humanos y máquinas. Los experimentos muestran que 45 agentes coordinados descubrieron 266 vulnerabilidades en una ejecución de 27 millones de tokens, mientras que un método paralelo independiente encontró 21 en 6.5 millones de tokens; solo 12 coincidieron, y los agentes coordinados aprendieron a especializarse. El estudio advierte además que las peculiaridades de comportamiento benignas a nivel individual pueden acumularse hasta provocar fallos sistémicos inesperados.

Puntos clave

  • Una investigación de Anthropic señala que,a medida que los agentes de IA asumen más tareas en…
  • Los experimentos muestran que 45 agentes coordinados descubrieron 266 vulnerabilidades en una…
  • 5 millones de tokens
  • solo 12 coincidieron,y los agentes coordinados aprendieron a especializarse.
  • El estudio advierte además que las peculiaridades de comportamiento benignas a nivel individual…

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Research(发表成果 · 网页)
Categoría
Artículos e investigación
Puntuación IA
79
Leer el original Leer el artículo completo en la fuente original
Por qué importa

实验把多智能体风险从猜测变为可量化模式,协调失败并不随更强智能自然消失,这会影响人们如何设计部署中的智能体交互环境。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Patrones y problemas de los sistemas emergentes multiagente. 13. agosto 2026. https://new.nat6.net/es/news/cmsqu0nr604oeroz2rh6b6mqt/

Ver todo →