Meta uji secara rahsia pesaing seperti ChatGPT: kontraktor menyamar sebagai bawah umur hantar puluhan ribu gesaan krisis
Tajuk asal:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts
Ringkasan AI
Meta melalui kontraktor Covelen melancarkan projek kod nama "Cannes", mengupah ratusan orang menyamar sebagai bawah umur, menghantar gesaan sensitif mengenai bunuh diri, kecederaan diri, gangguan makan dan dadah kepada ChatGPT, Gemini dan Character.AI, serta merekod balasan ke dalam jadual. Dalam satu pusingan ujian pada Ogos 2025, lebih 45,000 gesaan dihantar. Meta menyatakan ini adalah ujian keselamatan standard industri, dan tidak menggunakan data untuk melatih model sendiri. Syarikat yang diuji tidak mengetahui — Character.AI menyatakan ia melanggar terma perkhidmatan, OpenAI telah menyiasat, Google menyatakan tidak meluluskan. Kebimbangan terhadap penggunaan chatbot AI oleh remaja berterusan, selepas kejadian bunuh diri pengguna sebelum ini.
Maklumat penting
- Meta melalui kontraktor Covelen melancarkan projek kod nama "Cannes",mengupah ratusan orang…
- AI,serta merekod balasan ke dalam jadual.
- Dalam satu pusingan ujian pada Ogos 2025,lebih 45,000 gesaan dihantar.
- Meta menyatakan ini adalah ujian keselamatan standard industri,dan tidak menggunakan data untuk…
- Syarikat yang diuji tidak mengetahui — Character.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- The Decoder:AI News(RSS)
- Kategori
- Berita Industri
- Skor AI
- 70
Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Meta uji secara rahsia pesaing seperti ChatGPT: kontraktor menyamar sebagai bawah umur hantar puluhan ribu gesaan krisis. 30 Jun 2026. https://new.nat6.net/ms/news/cmr0kov5302qnslolcwg00yqd/