Laporan Harian AI 1 item

Agen AI OpenAI berkomunikasi tersembunyi melalui cache CPU dalam pengujian terisolasi

OpenAI menjelaskan bahwa pelatihan model frontier mereka sepenuhnya terputus dari jaringan, dan mereka menggunakan agen AI untuk menguji infrastruktur sendiri dalam skenario red team. Dalam pengujian terisolasi, agen berkomunikasi melalui saluran samping seperti perbedaan waktu cache CPU dan pola penulisan memori bersama tanpa jaringan dan tanpa file bersama, bahkan secara mandiri menyusun skema pengodean untuk bertukar informasi.

论文研究