Meta dilaporkan menyuruh pekerja outsourcing menyamar sebagai anak di bawah umur untuk memancing AI pesaing membahas topik sensitif
Ringkasan AI
Menurut laporan Wired, Meta melalui perusahaan outsourcing Covalen menjalankan proyek berkode "Cannes", yang membuat ratusan pekerja outsourcing menyamar sebagai anak di bawah umur dan mengirim prompt berisiko tinggi terkait bunuh diri, melukai diri sendiri, dan gangguan makan kepada OpenAI ChatGPT, Google Gemini, serta Character.AI untuk menguji mekanisme pemblokiran keamanan chatbot pesaing. Proyek berlangsung hingga 21 April, dengan lebih dari 45.000 prompt dikirim dalam satu putaran pengujian; pekerja outsourcing membuat akun palsu berusia di bawah 18 tahun dan mengunggah gambar pil, pisau, dan lainnya. Meta menyatakan ini adalah pengujian keamanan rutin dan tidak akan menggunakan data pengujian pesaing untuk melatih model mereka sendiri.
Poin utama
- Menurut laporan Wired,Meta melalui perusahaan outsourcing Covalen menjalankan proyek berkode…
- AI untuk menguji mekanisme pemblokiran keamanan chatbot pesaing.
- Proyek berlangsung hingga 21 April,dengan lebih dari 45.
- 000 prompt dikirim dalam satu putaran pengujian
- pekerja outsourcing membuat akun palsu berusia di bawah 18 tahun dan mengunggah gambar…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- IT之家·人工智能
- Kategori
- Dinamika Industri
- Skor AI
- 73
Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Meta dilaporkan menyuruh pekerja outsourcing menyamar sebagai anak di bawah umur untuk memancing AI pesaing membahas topik sensitif. 6 Juli 2026. https://new.nat6.net/id/news/cmr91yrn100noslmpusn7u7q0/