Mga Papel at Pananaliksik

Mga pattern at problema ng umuusbong na multi-agent system

Orihinal na pamagat:Patterns and problems in emerging multiagent systems

AI summary

Ipinapakita ng pananaliksik ng Anthropic na habang mas maraming task ang ginagawa ng AI agent sa mga social system tulad ng shared codebase at marketplace, maaaring lumampas ang interaksyon ng agent sa interaksyon ng tao at AI. Sa eksperimento, 45 coordinated agent ang nakahanap ng 266 vulnerability sa 27 milyong token na run, habang ang independent parallel method ay nakahanap ng 21 sa 6.5 milyong token; 12 lang ang overlap ng dalawang method, at natutunan ng coordinated agent ang specialization. Nagbabala rin ang pananaliksik na ang benign behavioral quirk sa indibidwal na antas ay maaaring magsanib at maging hindi inaasahang systemic failure.

Mahahalagang impormasyon

  • Ipinapakita ng pananaliksik ng Anthropic na habang mas maraming task ang ginagawa ng AI agent sa…
  • Sa eksperimento,45 coordinated agent ang nakahanap ng 266 vulnerability sa 27 milyong token na…
  • 5 milyong token
  • 12 lang ang overlap ng dalawang method,at natutunan ng coordinated agent ang specialization.
  • Nagbabala rin ang pananaliksik na ang benign behavioral quirk sa indibidwal na antas ay maaaring…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Research(发表成果 · 网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
79
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

实验把多智能体风险从猜测变为可量化模式,协调失败并不随更强智能自然消失,这会影响人们如何设计部署中的智能体交互环境。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Mga pattern at problema ng umuusbong na multi-agent system. 13 Agosto 2026. https://new.nat6.net/fil/news/cmsqu0nr604oeroz2rh6b6mqt/

Tingnan lahat →