万益资讯网

DeepMind CEO :前沿模型需提前 30 天交给一个专门机构进行体检再发

DeepMind CEO :前沿模型需提前 30 天交给一个专门机构进行体检再发布 ,否则不准进入美国市场

他认为:

通用人工智能(AGI)大概率几年就要实现它的影响堪比人类发现“火”和“电”AGI 带来的冲击可能是工业革命的 10 倍速度和 10 倍规模目前全球正陷入一场极其激烈的商业和地缘政治竞赛

为了不让技术失控,他提议美国带头建立一个动态、灵活且严格的“标准制定机构

怎么管理:达到一定跑分门槛的 AI 模型叫“前沿级模型”,研发它的公司叫“前沿实验室”。这些实验室发布新模型前,得提前 30 天自愿把模型交给这个机构体检。

体检考什么:

考网络安全、生物武器威胁等高危防御。

防“AI 叛变”:专门测试 AI 会不会绕过安全护栏,或者有没有“欺骗人类”的迹象。

强制要求:AI 生成的图片必须加数字水印,AI 的思考过程必须生成人类能看懂的符号。

通过检测的才能进入美国市场:

前沿模型必须通过评估,才能在美国市场部署。

若事态足够严重,框架可再升级,包括协调前沿实验室之间放慢开发发布节奏,甚至停止开发... 网页链接