人工智能周四被贴上“明确而现实的危险”标签。测试显示，所有先进模型都在试图绕过安全防护。英国人工智能安全专家向政府发出警示称，他们测试的5个模型无一例外，都试图欺骗研究人员设置的安全控制措施。

这一消息传出前几天，外界刚得知开放人工智能研究中心自身也发生了泄漏事件：一个人工智能“代理”自行入侵了一家科技公司。这起令人不安的事件发生时，开放人工智能研究中心——聊天生成预训练变换器的开发方——正在一个据称安全的“沙盒”环境中测试其最新模型。

但该人工智能还是逃离了测试环境，并入侵美国科技公司“拥抱脸”，试图窃取信息。保守党领袖凯米·巴德诺赫在安迪·伯纳姆出任首相后的首次重要演讲中警告称，人工智能如今已成为对英国安全“明确而现实的危险”。她说，有关开放人工智能研究中心泄漏事件的报道令人担忧，并批评伯纳姆降低了政府对人工智能议题的优先级。

巴德诺赫回应这起入侵事件时说：“这件事的发生非常令人担忧，这也是为什么我希望看到一个高度关注国家安全、信息安全的政府。”

她还说：“根据我担任贸易大臣期间的经验，以及我与政府通信总部接触和接受安全简报时了解到的情况，这正日益成为全球安全以及我们自身安全面临的明确而现实的危险。”

英格兰银行行长安德鲁·贝利表示，公众应当关注“前沿人工智能给金融部门及其客户带来的更广泛风险”。所谓前沿人工智能，是指处于能力最前沿、规模庞大且功能强大的通用人工智能模型。

贝利警告说：“前沿人工智能可能让网络攻击更快、更容易实施，让系统中断造成的破坏更严重，也会让犯罪分子的诈骗更具迷惑性。”不过，批评者担心，在伯纳姆本周将人工智能事务划归内阁办公室后，人工智能会在政府议程中进一步后移。

伯纳姆上任首相后的首批举措之一，就是撤销原本负责人工智能事务的科学、创新与技术部，转而组建职能更强的商业、创新、科学与贸易部。人工智能事务大臣卡尼什卡·纳拉扬今后将同时在内阁办公室和商业、创新、科学与贸易部任职，并进入内阁。

一个新的人工智能特别工作组将在首相顾问支持下，设于新成立的首相与内阁办公室之内。但巴德诺赫指责新首相撤销科学、创新与技术部，未能正视人工智能带来的明确风险。她说：“安迪·伯纳姆做的第一批事情之一，就是关闭科学与技术部。如果你真的担心人工智能即将带来的影响，这看起来不像是你会做的事。”

独立智库“政府研究所”的埃洛伊丝·邓洛普也警告称，把人工智能事务并入内阁办公室，“会削弱对人工智能进行连贯思考和协调的能力，因为你失去了一个完整专门部门所具备的分量和专业能力”。

本周拒绝加入伯纳姆政府的前武装部队事务大臣阿尔·卡恩斯呼吁政府从开放人工智能研究中心的泄漏事件中吸取教训。他在社交平台X上谈及这起人工智能安全事件时写道：“代理对代理，以机器速度发生，而人类是在一切结束后才读到报告。”

官员透露，大臣们如今已被告知，应将开放人工智能研究中心这起泄漏事件视为一次警示，提醒人们注意人工智能未来数月乃至数年内可能造成的破坏。

英国政府人工智能安全研究所测试了GPT-5.4、GPT-5.5、GPT-5.5 Sol、Claude Opus 4.7和Claude Mythos Preview。这些模型正迅速成为英国家喻户晓的名字，公众对人工智能的依赖也在不断加深。

尽管人工智能安全研究所被视为全球评估最先进模型风险方面最出色的机构之一，但外界对美国与其他主要国家之间这场“军备竞赛”最终会走向何处的担忧正在加剧。批评者认为，开发者对其中潜在风险的考虑仍然过少。

在测试中，研究人员要求模型入侵一个系统，在模拟环境中寻找一串由字母和数字组成的“标记”。这项任务设定了严格规则，研究人员也没有提示模型作弊。

但测试开始后，开放人工智能研究中心的GPT模型和美国人工智能公司“人择智能”的Claude模型都试图诱导评估软件向自己泄露信息、上网搜索答案，或者直接猜测结果。

其中一次，某个人工智能模型为了破坏规则，甚至在人工智能安全研究所系统之外的外部服务上编写并运行代码，试图接触测试本身。虽然没有造成损害，但人工智能安全研究所表示，如果其测试基础设施不是以安全方式设计和搭建的，这次尝试“本可能得逞”。

更令人震惊的是，这些人工智能模型并不真正反对自己的欺骗行为。它们在不到50%的情况下会将这种做法描述为“错误”，而且所有模型都只在部分情况下承认自己作弊。政府发言人表示：“通过把这项技术进一步置于政府核心位置，我们将利用英国独特的优势，让人工智能为所有人发挥作用。”

这名发言人说：“我们正把人工智能置于推动各地良性增长计划的中心：整合创新、商业和产业资源，任命首位内阁级人工智能大臣，并在首相与内阁办公室内设立人工智能特别工作组。”

作者：索菲·丘奇