Berita Industri

Meta uji secara rahsia pesaing seperti ChatGPT: kontraktor menyamar sebagai bawah umur hantar puluhan ribu gesaan krisis

Tajuk asal:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts

Ringkasan AI

Meta melalui kontraktor Covelen melancarkan projek kod nama "Cannes", mengupah ratusan orang menyamar sebagai bawah umur, menghantar gesaan sensitif mengenai bunuh diri, kecederaan diri, gangguan makan dan dadah kepada ChatGPT, Gemini dan Character.AI, serta merekod balasan ke dalam jadual. Dalam satu pusingan ujian pada Ogos 2025, lebih 45,000 gesaan dihantar. Meta menyatakan ini adalah ujian keselamatan standard industri, dan tidak menggunakan data untuk melatih model sendiri. Syarikat yang diuji tidak mengetahui — Character.AI menyatakan ia melanggar terma perkhidmatan, OpenAI telah menyiasat, Google menyatakan tidak meluluskan. Kebimbangan terhadap penggunaan chatbot AI oleh remaja berterusan, selepas kejadian bunuh diri pengguna sebelum ini.

Maklumat penting

  • Meta melalui kontraktor Covelen melancarkan projek kod nama "Cannes",mengupah ratusan orang…
  • AI,serta merekod balasan ke dalam jadual.
  • Dalam satu pusingan ujian pada Ogos 2025,lebih 45,000 gesaan dihantar.
  • Meta menyatakan ini adalah ujian keselamatan standard industri,dan tidak menggunakan data untuk…
  • Syarikat yang diuji tidak mengetahui — Character.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
The Decoder:AI News(RSS)
Kategori
Berita Industri
Skor AI
70
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Meta uji secara rahsia pesaing seperti ChatGPT: kontraktor menyamar sebagai bawah umur hantar puluhan ribu gesaan krisis. 30 Jun 2026. https://new.nat6.net/ms/news/cmr0kov5302qnslolcwg00yqd/

Lihat Semua →