Berita Industri

Meta didakwa menyuruh pekerja luar menyamar sebagai kanak-kanak bawah umur untuk memancing AI pesaing membincangkan topik sensitif

Ringkasan AI

Menurut Wired, Meta melalui syarikat luar Covalen menjalankan projek kod "Cannes", yang membolehkan ratusan pekerja luar menyamar sebagai kanak-kanak bawah umur dan menghantar gesaan berisiko tinggi berkaitan bunuh diri, kecederaan diri dan gangguan makan kepada OpenAI ChatGPT, Google Gemini dan Character.AI, bagi menguji mekanisme sekatan keselamatan chatbot pesaing. Projek berlangsung sehingga 21 April, dengan lebih 45,000 gesaan dihantar dalam satu pusingan ujian; pekerja luar mencipta akaun palsu bawah 18 tahun dan memuat naik gambar pil, pisau dan sebagainya. Meta mendakwa ini adalah ujian keselamatan biasa dan tidak akan menggunakan data ujian pesaing untuk melatih modelnya sendiri.

Maklumat penting

  • Menurut Wired,Meta melalui syarikat luar Covalen menjalankan projek kod "Cannes",yang membolehkan…
  • AI,bagi menguji mekanisme sekatan keselamatan chatbot pesaing.
  • Projek berlangsung sehingga 21 April,dengan lebih 45,000 gesaan dihantar dalam satu pusingan ujian
  • pekerja luar mencipta akaun palsu bawah 18 tahun dan memuat naik gambar pil,pisau dan sebagainya.
  • Meta mendakwa ini adalah ujian keselamatan biasa dan tidak akan menggunakan data ujian pesaing…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
IT之家·人工智能
Kategori
Berita Industri
Skor AI
73
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Meta didakwa menyuruh pekerja luar menyamar sebagai kanak-kanak bawah umur untuk memancing AI pesaing membincangkan topik sensitif. 6 Julai 2026. https://new.nat6.net/ms/news/cmr91yrn100noslmpusn7u7q0/

Lihat Semua →