AI安全这周在三条线上同时出问题:卖安全的在抢人,管应用的在立规矩,研究模型的在演示怎么用一句话骗倒智能体。三件事看着不搭,指向的是同一个问题。
OpenAI请来了SpaceX的Graham Seamans,让他负责网络安全业务的销售。这有两层意思。一是AI公司开始把安全当正经产品线来卖,配专属销售,不再只是发博客喊口号。二是马斯克系的人才继续往OpenAI流,这已经是近期又一次从对方阵营挖人。
苹果直接动了App Store的审核刀。新规把AI生成的未经同意私密影像纳入监管,开发者得主动防、主动删,否则应用下架。针对“脱衣”应用的条款更狠:审核时藏功能、过审后再打开,算虚假说明用途,应用移除,开发者资格也可能被终止。此前有用户投诉Grok被用来生成性化深度伪造内容,这次更新算是回应。
模型自身的漏洞最难堵。arXiv一篇论文提出“one-relation attack”(ORA),只攻击证据到结论之间那一条隐式保证。不篡改数据,不注入提示词,一句真话就够把智能体的信念带偏。论文标题说得很直白:一个真实关系,足以误导LLM智能体。内容过滤挡不住这类攻击,因为进来的每个事实都是真的。
三件事凑一起看,AI安全的短板不在模型内部。人在流动,规则在补齐,推理链的接缝还敞着。安全既是能卖的产品,也是平台的合规红线,还是一个随时被一句话撬开的攻击面。