Паттерны и проблемы новых мультиагентных систем
Оригинальный заголовок:Patterns and problems in emerging multiagent systems
ИИ-резюме
Исследование Anthropic отмечает, что по мере того как ИИ-агенты берут на себя больше задач в социальных системах — общих репозиториях кода, рынках и т. п., — объём взаимодействий между агентами может превысить взаимодействие человек-машина. Эксперимент показал: 45 координируемых агентов за прогон в 27 млн токенов нашли 266 уязвимостей, тогда как независимый параллельный метод за 6,5 млн токенов нашёл 21, причём совпали лишь 12; координируемые агенты научились специализации. Исследование также предупреждает, что безобидные на индивидуальном уровне поведенческие особенности могут складываться в неожиданные системные сбои.
Ключевые моменты
- Исследование Anthropic отмечает,что по мере того как ИИ-агенты берут на себя больше задач в…
- ,— объём взаимодействий между агентами может превысить взаимодействие человек-машина.
- Эксперимент показал: 45 координируемых агентов за прогон в 27 млн токенов нашли 266…
- координируемые агенты научились специализации.
- Исследование также предупреждает,что безобидные на индивидуальном уровне поведенческие особенности…
Кратко
- Опубликовано
- Обновлено
- Источник
- Anthropic:Research(发表成果 · 网页)
- Категория
- Статьи и исследования
- Оценка ИИ
- 79
实验把多智能体风险从猜测变为可量化模式,协调失败并不随更强智能自然消失,这会影响人们如何设计部署中的智能体交互环境。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Паттерны и проблемы новых мультиагентных систем. 13 августа 2026. https://new.nat6.net/ru/news/cmsqu0nr604oeroz2rh6b6mqt/