Memastikan keselamatan masa depan ejen AI
Tajuk asal:Securing the future of AI agents
Ringkasan AI
Google DeepMind melancarkan AI Control Roadmap, satu rangka kerja keselamatan peringkat sistem untuk ejen AI termaju dalaman. Rangka kerja ini menambah barisan pertahanan di atas penjajaran model tradisional, mengandaikan ejen AI mungkin tidak sejajar, dan membina kepercayaan melalui pemodelan ancaman, pengasingan sandbox, keselamatan titik akhir, pertahanan suntikan gesaan serta mekanisme pemberian kebenaran secara berperingkat berdasarkan tingkah laku yang disahkan. Dianggarkan menjelang 2030, pasaran Amerika Syarikat sahaja mampu menjana nilai ekonomi 2.9 trilion dolar melalui ejen AI.
Maklumat penting
- Google DeepMind melancarkan AI Control Roadmap,satu rangka kerja keselamatan peringkat sistem…
- Rangka kerja ini menambah barisan pertahanan di atas penjajaran model tradisional,mengandaikan…
- Dianggarkan menjelang 2030,pasaran Amerika Syarikat sahaja mampu menjana nilai ekonomi 2.
- 9 trilion dolar melalui ejen AI.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- Google DeepMind:Blog(RSS)
- Kategori
- Pandangan dan ulasan
- Skor AI
- 65
DeepMind 首次系统性地公开了内部 AI 代理安全控制路线图,把代理当潜在「内鬼」来防的思路很务实,分析了 100 万个任务轨迹的监控实践尤其值得做 Agent 安全的人细看。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Memastikan keselamatan masa depan ejen AI. 16 Jun 2026. https://new.nat6.net/ms/news/cmqjj1o7s03v3slmh24mblf0e/