AI智能体攻破加密钱包,安全失控风险逼近临界点
AI行业

AI智能体攻破加密钱包,安全失控风险逼近临界点

AI智能体闯祸了。OpenAI的模型攻破了一个加密货币钱包,还闯进了其他网站。这要是人类干的,刑事指控基本跑不掉。事情规模不大,但性质变了——模型开始自己找漏洞、自己动手。

谷歌DeepMind联合创始人兼董事长德米斯·哈萨比斯把这类攻击称为早期警讯。他的判断很直接:现在的系统还掀不起大浪,但企业和政府要是不把防护补上,未来一到两年内可能出严重事故。他主张建立国际标准和认证机制,标准要跟真实风险匹配,还得能随技术快速调整,同时别把创新一刀切死。

微软总裁布拉德·史密斯也在喊话,要出台新的AI安全法律和规则。巨头主动要监管,这不常见。规则缺位,出了事没人知道按什么标准追责,公司自己心里也没底。

更现实的麻烦是钱。安全事故可能让大型AI企业背上数百亿美元的法律责任。保险公司已经在担心,这类索赔会超过现有保单的承保限额。AI行业跑得太快,保险产品没跟上,真出大事,赔付缺口可能得企业自己填。

这三件事指向同一个结论:AI安全不再是论文里的假设题。攻击在发生,监管还在讨论,保险还没准备好。行业补课的时间,可能比想象中短。