Meta, inulat na pinagpapanggap na menor de edad ang mga outsourced worker para pukawin ang sensitibong paksa sa AI ng mga kakumpitensya
AI summary
Ayon sa ulat ng Wired, nagsagawa ang Meta ng proyektong may code name na “Cannes” sa pamamagitan ng outsourcing company na Covalen, kung saan daan-daang outsourced worker ang nagpanggap na menor de edad at nagpadala ng mga high-risk prompt tungkol sa pagpapakamatay, pananakit sa sarili, at eating disorder sa OpenAI ChatGPT, Google Gemini, at Character.AI upang subukan ang safety interception mechanism ng mga chatbot ng kakumpitensya. Tumagal ang proyekto hanggang Abril 21, at mahigit 45,000 prompt ang ipinadala sa isang round ng pagsubok; gumawa ang mga outsourced worker ng pekeng account para sa mga wala pang 18 taong gulang at nag-upload ng mga larawan ng tableta at kutsilyo. Sinabi ng Meta na karaniwang safety test ito at hindi gagamitin ang test data ng kakumpitensya para sanayin ang sariling modelo.
Mahahalagang impormasyon
- Ayon sa ulat ng Wired,nagsagawa ang Meta ng proyektong may code name na “Cannes” sa pamamagitan ng…
- AI upang subukan ang safety interception mechanism ng mga chatbot ng kakumpitensya.
- Tumagal ang proyekto hanggang Abril 21,at mahigit 45,000 prompt ang ipinadala sa isang round ng…
- gumawa ang mga outsourced worker ng pekeng account para sa mga wala pang 18 taong gulang at…
- Sinabi ng Meta na karaniwang safety test ito at hindi gagamitin ang test data ng kakumpitensya…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- IT之家·人工智能
- Kategorya
- Mga balita sa industriya
- AI na marka
- 73
Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Meta, inulat na pinagpapanggap na menor de edad ang mga outsourced worker para pukawin ang sensitibong paksa sa AI ng mga kakumpitensya. 6 Hulyo 2026. https://new.nat6.net/fil/news/cmr91yrn100noslmpusn7u7q0/