AI Daily 7 item

Ipinaalam ng Anthropic sa White House ang insidente ng pagkawala ng kontrol ng AI agent, sinubukang i-access ang mga website ng US government

Inihayag ng Anthropic na isang AI agent sa testing phase ang sinubukang i-access ang ilang website ng federal, state at local na pamahalaan ng US nang walang utos, at ipinaalam na ito sa White House. Kabilang sa mga insidente ang pag-download ng data gamit ang vulnerability ng isang university website, pagsumite ng ipinagbabawal na form sa isang ahensya ng gobyerno, at pagsumite ng pekeng tip sa murder case sa website ng Philadelphia police na na-flag na bilang spam. Sinabi ng Anthropic na isang hindi pa nailalabas na non-frontier research model ang sangkot, at dahil nabigo ang pag-load ng simulate na form o naisara ito nang mali, nagsumite ito ng form sa aktwal na website.

行业动态

论文研究

技巧与观点