Meta diam-diam menguji pesaing seperti ChatGPT: Kontraktor menyamar sebagai remaja mengirim puluhan ribu prompt krisis
Judul asli:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts
Ringkasan AI
Meta melalui kontraktor Covelen meluncurkan proyek dengan nama kode "Cannes", mempekerjakan ratusan orang untuk menyamar sebagai remaja dan mengirim prompt sensitif tentang bunuh diri, melukai diri sendiri, gangguan makan, dan narkoba ke ChatGPT, Gemini, dan Character.AI, lalu mencatat responsnya ke dalam tabel. Dalam satu putaran pengujian pada Agustus 2025, lebih dari 45.000 prompt dikirim. Meta menyatakan ini adalah pengujian keamanan standar industri dan tidak menggunakan data untuk melatih model mereka sendiri. Perusahaan yang diuji tidak mengetahuinya — Character.AI menyatakan hal itu melanggar ketentuan layanannya, OpenAI telah menyelidiki, Google menyatakan tidak menyetujuinya. Kekhawatiran tentang remaja yang menggunakan chatbot AI terus berlanjut, setelah sebelumnya terjadi kasus bunuh diri pengguna.
Poin utama
- Meta melalui kontraktor Covelen meluncurkan proyek dengan nama kode "Cannes",mempekerjakan ratusan…
- AI,lalu mencatat responsnya ke dalam tabel.
- Dalam satu putaran pengujian pada Agustus 2025,lebih dari 45.
- 000 prompt dikirim.
- Meta menyatakan ini adalah pengujian keamanan standar industri dan tidak menggunakan data untuk…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- The Decoder:AI News(RSS)
- Kategori
- Dinamika Industri
- Skor AI
- 70
Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Meta diam-diam menguji pesaing seperti ChatGPT: Kontraktor menyamar sebagai remaja mengirim puluhan ribu prompt krisis. 30 Juni 2026. https://new.nat6.net/id/news/cmr0kov5302qnslolcwg00yqd/