Tin ngành

Meta bị phát hiện để nhân viên thuê ngoài giả làm trẻ vị thành niên, dụ AI đối thủ trò chuyện về chủ đề nhạy cảm

Tóm tắt AI

Theo Wired, Meta thông qua công ty thuê ngoài Covalen triển khai dự án mật danh "Cannes", để hàng trăm nhân viên thuê ngoài giả làm trẻ vị thành niên, gửi các câu lệnh rủi ro cao liên quan đến tự tử, tự làm hại bản thân, rối loạn ăn uống tới OpenAI ChatGPT, Google Gemini và Character.AI, nhằm kiểm tra cơ chế chặn an toàn của chatbot đối thủ. Dự án kéo dài đến ngày 21/4, mỗi vòng kiểm tra gửi hơn 45.000 câu lệnh, nhân viên thuê ngoài tạo tài khoản giả dưới 18 tuổi và tải lên hình ảnh thuốc viên, dao... Meta cho biết đây là kiểm tra an toàn thông thường và sẽ không dùng dữ liệu kiểm tra từ đối thủ để huấn luyện mô hình của mình.

Thông tin chính

  • Theo Wired,Meta thông qua công ty thuê ngoài Covalen triển khai dự án mật danh "Cannes",để hàng…
  • AI,nhằm kiểm tra cơ chế chặn an toàn của chatbot đối thủ.
  • Dự án kéo dài đến ngày 21/4,mỗi vòng kiểm tra gửi hơn 45.
  • 000 câu lệnh,nhân viên thuê ngoài tạo tài khoản giả dưới 18 tuổi và tải lên hình ảnh thuốc…
  • Meta cho biết đây là kiểm tra an toàn thông thường và sẽ không dùng dữ liệu kiểm tra từ đối thủ để…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
IT之家·人工智能
Danh mục
Tin ngành
Điểm AI
73
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Meta bị phát hiện để nhân viên thuê ngoài giả làm trẻ vị thành niên, dụ AI đối thủ trò chuyện về chủ đề nhạy cảm. 6 tháng 7 2026. https://new.nat6.net/vi/news/cmr91yrn100noslmpusn7u7q0/

Xem tất cả →