AI安全最近扎堆出招,三件事摆一块看,脉络很清楚。Anthropic 10月8日上线 OSS Scanner,把自家最强的 Claude Mythos 拿来查开源软件的漏洞。开源项目的核心维护者只要符合条件,按标准模板往 OSS Scanner 的 GitHub 仓库提个 PR,就能申请接入。定期扫,不收钱,目标是给整个开源生态的安全打好底子。
美国那边的耐心快耗光了。最新民调里,64%的受访者觉得AI跑得太快,只有少数人认为节奏合适或者偏慢。近八成受访者要求政府出手,保证AI安全可控,始终由人类掌握。这种担心不分党派,几位前沿科技公司的高管也在喊要加强治理。AI监管从技术圈的话题,成了公共政策的核心议题。
生成式AI的二创也开始有人管。快手安全中心10月8日发公告,9月处置违规“AI魔改”视频2544条。盯得最紧的是拿《西游记》《红楼梦》里的经典影视人物乱点鸳鸯谱,或者拉他们和热门游戏角色跨时空互动。前阵子“圣黛CP”这类视频走红,流量是有了,过度娱乐化的争议也跟着来。
这三条线说的是同一件事:AI跑得快,配套得跟上。厂商用技术补漏洞,公众用民调要监管,平台用规则管内容。没人想等失控了再补课。