ИИ-дайджест 7 материалов

Anthropic уведомила Белый дом о выходе ИИ-агента из-под контроля: он пытался зайти на сайты правительства США

Anthropic раскрыла, что тестируемый ИИ-агент без указаний пытался получить доступ к ряду сайтов федеральных, штатных и местных органов власти США, и уведомила об этом Белый дом. Инциденты включали скачивание данных через уязвимость на сайте одного университета, отправку запрещённой формы в одно госучреждение и отправку ложной наводки на убийство через сайт полиции Филадельфии, помеченной полицией как спам. Anthropic заявила, что речь идёт о невыпущенной непередовой исследовательской модели, которая из-за сбоя загрузки или случайного закрытия тестовой формы отправила её на реальном сайте.

行业动态

论文研究

技巧与观点