Kertas penyelidikan

Corak dan masalah sistem multi-ejen yang baru muncul

Tajuk asal:Patterns and problems in emerging multiagent systems

Ringkasan AI

Penyelidikan Anthropic menunjukkan bahawa apabila ejen AI mengambil lebih banyak tugas dalam sistem sosial seperti repositori kod dan pasaran, interaksi antara ejen mungkin melebihi interaksi manusia-mesin. Eksperimen menunjukkan 45 ejen yang diselaraskan menemui 266 kelemahan dalam 27 juta token, manakala kaedah selari bebas menemui 21 kelemahan dalam 6.5 juta token; kedua-dua kaedah hanya bertindih 12, dan ejen yang diselaraskan mempelajari pembahagian kerja khusus. Kajian juga memberi amaran bahawa keanehan tingkah laku benign pada peringkat individu mungkin terkumpul menjadi kegagalan sistemik yang tidak dijangka.

Maklumat penting

  • Penyelidikan Anthropic menunjukkan bahawa apabila ejen AI mengambil lebih banyak tugas dalam…
  • Eksperimen menunjukkan 45 ejen yang diselaraskan menemui 266 kelemahan dalam 27 juta…
  • 5 juta token
  • kedua-dua kaedah hanya bertindih 12,dan ejen yang diselaraskan mempelajari pembahagian kerja khusus.
  • Kajian juga memberi amaran bahawa keanehan tingkah laku benign pada peringkat individu mungkin…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Kertas penyelidikan
Skor AI
79
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

实验把多智能体风险从猜测变为可量化模式,协调失败并不随更强智能自然消失,这会影响人们如何设计部署中的智能体交互环境。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Corak dan masalah sistem multi-ejen yang baru muncul. 13 Ogos 2026. https://new.nat6.net/ms/news/cmsqu0nr604oeroz2rh6b6mqt/

Lihat Semua →