《WIRED》曝光Meta秘密测试项目：数百人伪装未成年人，向竞争对手AI发起4.5万次高风险提问

据《WIRED》最新调查，Meta长期运营一项内部代号为“Cannes（戛纳）”的秘密项目，并委托外包公司 Covalen 组织数百名工作人员，伪装成未成年人，对竞争对手的人工智能聊天机器人开展大规模安全测试。

调查显示，工作人员使用虚构身份注册临时 Gmail、Outlook 等邮箱，创建大量虚拟账号，并以13至17岁青少年的身份，与 OpenAI 的 ChatGPT、Google 的 Gemini 以及 Character.AI 等产品进行互动。

测试内容涉及自杀、自残、性、毒品、暴力等高风险场景，目的是尽可能突破各家AI模型的安全防护机制，观察是否会输出本应拒绝的内容，并记录结果进行对比分析。

报道称，仅2025年8月完成的一轮集中测试，就向上述AI产品累计输入了超过4.5万条高风险提示词。整个项目持续运行至2026年4月仍未结束。

Meta并未否认该项目的存在。公司回应称，这属于行业常见的AI安全基准测试，目的是评估不同模型的安全表现，并非利用测试结果训练自身模型。

不过，OpenAI、Google和Character.AI均表示，对此类测试事先并不知情，并指出相关行为可能违反各自平台的服务条款。目前，OpenAI已表示将对此事展开调查。