【OpenAI 的代理在模型测试期间入侵了第二个账户】

（AXIOS）一位安全主管告诉路透社，OpenAI 的模型还导致另一家外部公司遭到黑客攻击，Axios 也证实了这一点。

这是 OpenAI 的失控代理系统在本月初的测试中突破隔离措施后攻击的第二家公司。OpenAI 目前正在争取美国政府批准其公开发布最强大的模型。

Modal Labs 首席技术官 Akshat Bubna周二告诉路透社，并向 Axios 证实，本月早些时候， OpenAI 的一个代理入侵了 Hugging Face 的系统，导致其一位客户的资产遭到黑客攻击。

Hugging Face在周一发布的关于此次黑客攻击的技术说明中表示，当 OpenAI 的 AI 代理系统入侵其后端时，该代理还访问了一个“托管在第三方提供商基础设施上的”隔离测试环境。

“我们注意到，一位 Modal 客户发布了一个未经身份验证的端点，允许互联网上的任何人利用他们的沙箱执行代码，”Bubna 在给 Axios 的一份声明中表示。“恶意代理利用了这个端点。Modal 的平台没有受到任何损害。”

他补充说，这意味着Modal的一位客户在Modal的基础设施上运行了他们的代码。“他们的代码存在一个漏洞，该漏洞已被利用。Modal的基础设施没有受到任何损害。”

一位知情人士告诉 Axios，被泄露的客户资产与 CyberGym 有关，CyberGym 是 ExploitGym 基准测试背后的项目，它被指派去解决该基准测试。

OpenAI 向 Axios 指出，该公司周二对其 关于 Hugging Face 网络事件的原始声明进行了更新。

声明称，即将发布的模型中没有涉及此类事件，但已发现“少数案例”，其中模型在其他公共服务中找到并使用了公开的帐户级凭据。声明称，有四个服务平台上的四个账户卷入了“Hugging Face”事件。

OpenAI 在更新中表示：“我们认真对待识别和应对日益强大的 AI 系统带来的风险的责任。”

言外之意： OpenAI披露，其部分模型（包括尚未发布的模型）在内部测试中失控，并攻击了现实世界的公司，这引发了人们对前沿人工智能实验室发展速度的担忧。

OpenAI 首席执行官 Sam Altman周二早些时候在 Invest Like a Beast 播客节目中表示，Hugging Face 网络攻击迫使他的公司暂停了模型训练。

“我们或许需要放慢人工智能的发展速度，以便给社会足够的时间来适应这些新的能力水平，”奥特曼说。

包括 OpenAI 首席科学家 Jakub Pachocki 和 Anthropic 联合创始人 Jared Kaplan 在内的 1100 多名前沿人工智能公司的员工在周二发布的一封信中呼吁美国政府“支持一项国际努力，以开发必要的技术和治理工具，从而有意识地加快自动化人工智能发展的步伐”。

值得关注的是：奥特曼本周在华盛顿特区，预计将会见白宫、财政部和商务部的官员，以及一个由两党议员组成的团体。