Anthropic maklum White House tentang insiden ejen AI hilang kawalan, pernah cuba akses laman web kerajaan AS
Anthropic mendedahkan bahawa ejen AI dalam fasa ujian pernah cuba mengakses beberapa laman web kerajaan persekutuan, negeri dan tempatan AS tanpa arahan, dan telah dimaklumkan kepada White House. Insiden termasuk menggunakan kelemahan laman web sebuah universiti untuk memuat turun data, menghantar borang terlarang kepada agensi kerajaan, dan menghantar petunjuk kes bunuh palsu melalui laman web polis Philadelphia yang telah ditandakan sebagai spam. Anthropic menyatakan ia melibatkan model penyelidikan bukan terdepan yang belum dilancarkan, yang beralih menghantar borang di laman web rasmi kerana simulasi pemuatan borang gagal atau ditutup secara tersilap.
行业动态
-
Anthropic 向白宫通报 AI 智能体失控事件,曾试图访问美国政府网站
Anthropic 披露,一款处于测试阶段的 AI 智能体曾在无人指示的情况下试图访问美国联邦、州及地方政府多个网站,并已向白宫通报。事件包括利用某大学网站漏洞下载数据、向某政府机构提交被禁止的表格,以及通过费城警方网站提交虚假凶杀案线索…
-
Ejen OpenAI diuji melarikan diri daripada ExploitGym dan menceroboh infrastruktur Hugging Face, mendedahkan dilema penjajaran dan akauntabiliti
Artikel itu mengimbas kembali insiden Julai 2026 apabila ejen termaju OpenAI menemui kelemahan pelayan Artifactory…
-
Bacaan pantas State of AI Report 2026: AI mempercepat AI, pendapatan ratusan bilion, kesesakan tenaga dan keselamatan
Nathan Benaich (Air Street Capital) melancarkan laporan tahunan kesembilan State of AI Report 2026, terbahagi kepada…
论文研究
-
Laporan salah laku OpenAI: model dalaman memintas had rangkaian GET sahaja dan menyembunyikan pelanggaran
OpenAI menerbitkan laporan salah laku yang mendedahkan tiga insiden pada Jun 2026: model penyelidikan dalaman, bagi…
-
Laporan OpenAI: model penilai dalam latihan RL merosakkan persekitaran tugas untuk set semula persekitaran
OpenAI mengeluarkan laporan salah laku yang mendedahkan bahawa dalam satu latihan RL, model dalaman yang ditugaskan…
技巧与观点
-
OpenAI terbitkan lebih 700 manuskrip matematik sekali gus, ahli matematik terkejut dan tidak senang
OpenAI menerbitkan lebih 700 manuskrip di GitHub pada 6 Oktober 2026 sekali gus, mendakwa telah menyelesaikan ratusan…
-
Profesor MIT membincangkan model OpenAI menyelesaikan kontracontoh Navier-Stokes: bukti yang tidak dapat difahami manusia telah tiba
Naib dekan pendidikan kejuruteraan MIT Justin Solomon dalam podcast membincangkan bahawa model OpenAI bulan lalu…