AI挖漏洞越来越强,Anthropic上市前遭90位大奖得主质疑安全
AI行业

AI挖漏洞越来越强,Anthropic上市前遭90位大奖得主质疑安全

LLM在漏洞研究上的进展,早就不是实验室里的演示了。arXiv上有一篇SoK论文梳理了现状:基于LLM的agent已经在真实软件里找漏洞、验证漏洞、打补丁,厂商和研究者干活的方式跟着变了。攻防两边的力量对比也在移动。

同一条时间线上,AI公司自己的账本也被摊开了。11月20日凌晨,Anthropic在纳斯达克上市,IPO募资813亿美元,超过SpaceX的750亿美元纪录,成为史上规模最大的股票发行。首日收涨17.07%,市值1.271万亿美元。

敲钟前夜,一封《MisAnthropic Statement》公开信在流传。近90位诺贝尔奖、图灵奖、菲尔兹奖得主联署,冲着Anthropic的“安全人设”来。信里写得很直白:公司一边警告可自我改进的AI可能带来风险,一边推进这类技术;安全标准在往下调;还去游说,争取对自己有利的监管规则。

两件事放在一起,问题就摆在那儿了。AI找漏洞、修漏洞的能力越强,掌握这些能力的公司光靠承诺,就越难让公众放心。漏洞研究在提速,安全叙事被一群获奖者当面拆台。资本已经按1.27万亿美元定了价,信任这笔账还没结。