万益资讯网

【美国大型科技公司发表公开信,声明捍卫开源人工智能模型 】 (CNB...

【美国大型科技公司发表公开信,声明捍卫开源人工智能模型 】

(CNBC)英伟达、微软、Meta、Palantir以及另外20多家公司于周五发表了一封公开信,敦促政策制定者避免对开放权重人工智能模型实施“过早的限制”,以免“扼杀竞争或将创新驱向海外”。
开放权重人工智能模型可供用户下载、修改并在自己的基础设施上运行,最近几周,这一话题在科技界引发了激烈争论。
面对OpenAI和Anthropic等美国公司推出的领先产品——这些公司主要开发专有、封闭式模型——中国开放式模型正势头强劲。美国官员和高管一直在权衡是否应限制中国模型在美国的访问权限。
本月早些时候,中国初创公司Moonshot AI发布了一款名为Kimi K3的模型,该模型在某些行业基准测试中表现优于美国最先进的模型,这进一步加剧了相关担忧。美国财政部长斯科特·贝森特周二对CNBC表示,特朗普政府将调查中国公司是否窃取了美国知识产权,并称政府“有能力因这种盗窃行为对其实施制裁”。
但在周五发表的公开信中,这组美国科技公司警告不要采取任何鲁莽行动。他们在信中写道,开放式模型能够增强竞争,并确保该技术带来的好处“被广泛共享,而不是集中在少数人手中”。
“仅依赖封闭式模型本身并不安全:它们可能会遭到入侵、被滥用,或以外界无法察觉的方式发生故障,”信中写道。“而将先进的人工智能能力集中在少数封闭式模型中,则会加剧这种风险。”
英伟达首席执行官黄仁勋和微软首席执行官萨蒂亚·纳德拉都在各自的个人社交媒体账号上转发了这封公开信。
在旗下火箭公司SpaceX旗下运营一家人工智能企业的埃隆·马斯克也在社交媒体上转发了这封公开信,并在X平台上发文表示对此给予“全力支持”。SpaceX并未正式签署这封公开信。
OpenAI和Anthropic均未签署这封信。这两家公司的估值均接近1万亿美元,目前正为可能规模庞大的首次公开募股(IPO)做准备,该IPO最早可能于今年启动。Anthropic已于6月向美国证券交易委员会(SEC)秘密提交了招股说明书,OpenAI也在数日后效仿。
OpenAI总裁格雷格·布罗克曼(Greg Brockman)周四表示,该公司支持广泛普及人工智能,且他并未参与任何关于美国可能禁止中国开放权重模型的与特朗普政府之间的讨论。
“我认为,从根本上说,让人工智能及其应用普及化实际上是非常重要的,”布罗克曼在纽约市的一次简报会上对记者说道。“因此,从某种深层次来看,我认为拥有更多的模型、更广泛的应用,是一件好事。”
OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)周五在X平台的一篇帖子中回应了这封信,写道他希望美国在开放权重模型和专有模型方面都能取得成功,并表示“很高兴看到这一点”。
本月早些时候,人工智能公司Hugging Face利用中国公司Z.ai的开放权重模型,成功遏制了由失控的OpenAI模型发起的网络攻击。OpenAI于周二披露了此次攻击,并将其描述为“史无前例的网络安全事件”。
Hugging Face 机器学习负责人亚辛·杰尔尼特(Yacine Jernite)告诉 CNBC,该公司最初曾尝试使用 Anthropic 的 Fable 5 来分析此次攻击,但未能成功,因为该模型的防护机制无法识别出 Hugging Face 正在试图进行自我防御。
杰尔尼特表示,Hugging Face随后转而采用Z.ai的GLM 5.2模型,并“借助该模型迅速遏制了此次攻击”。
白宫顾问迈克尔·克拉齐奥斯(Michael Kratsios)周三表示,中国Moonshot AI公司通过蒸馏Anthropic的技术开发了其Kimi K3模型。“蒸馏”是一种人工智能训练方法,即利用现有更强大模型的输出结果,构建出一个规模较小、能力较弱的模型。
克拉西奥斯在X平台的一篇帖子中写道,合法的人工智能蒸馏在开放式创新生态系统中发挥着至关重要的作用,但他警告称,“旨在窃取美国专有技术的大规模、隐蔽的工业蒸馏行为”是“不可接受的”。
在周五发表的公开信中,这些美国科技公司表示,应通过“有针对性的法律和商业框架”来解决对非法蒸馏的担忧,而不是“对在人工智能创新中发挥重要作用的技术实施一刀切的限制”。
“我们的人工智能领导地位将不会仅凭一个前沿AI模型来评判,而是取决于美国能否构建一个强大、开放且渗透到各个领域的生态系统,”信中写道。“这对在全国范围内创造创新和繁荣的机会至关重要。”
[微软官网]
公开信:开放式权重与美国在人工智能领域的领导地位
20世纪80年代,早期的开源软件先驱们挑战了当时的主流观点——即只有当企业对代码保持严格控制时,软件才能取得进步。这一运动推动建立了一个透明的生态系统,让世界各地的开发者都能研究、修改和改进软件。如今,由开源社区开发的软件支撑着互联网的大部分运行,并构成了全球最大科技公司所用系统的基石,同时也支撑着美国军方及联邦机构开展科学研究、网络安全及其他关键任务。开源不仅降低了软件成本,更创造了一个共享的知识基础,几代美国工程师和企业家正是以此为基础,建立了美国的制度主权。
如今,美国在人工智能领域面临着类似的选择。我们的人工智能领导地位将不再取决于某个前沿的AI模型,而是取决于美国能否构建一个强大、开放且渗透到各个领域的生态系统。这对在全国范围内创造创新与繁荣的机会至关重要。这需要扩大人工智能的获取渠道、鼓励竞争、建立强大的应用层,并让美国人能够更好地掌控他们所依赖的技术。开放权重模型——即任何人都可以下载、检查、修改并在自己的基础设施上运行的AI模型——是这一基础的重要组成部分,因为它们使先进AI更易于获取、更具适应性,并能广泛应用。
开放权重扩大了AI经济的参与范围。初创企业、成熟企业、大学和公共机构可以在先进模型的基础上进行开发,而无需从头开始训练模型,也不必为每一项任务支付前沿模型的高昂费用。开放权重使每个组织都能以合理的成本将合适的模型匹配到合适的任务上,将前沿级别的计算能力保留给真正的前沿难题,而在其他场景中运行高效、专业化的模型。随着人工智能的应用规模扩展到数十亿项日常任务,正是这种规范性将使其在经济上具有可持续性。美国将通过将人工智能融入工厂、医院、农场、教室和街边商铺的工作流程中,从而赢得人工智能时代。
开放权重还能增强竞争,而正是竞争确保了人工智能的成果能够广泛共享,而非集中于少数人手中。通过允许众多组织构建、调整和部署先进模型,开放权重不仅在模型开发者之间,而且在云芯片、应用程序和服务之间都催生了竞争。这种竞争激发了创新,降低了成本,并将人工智能的效益广泛惠及整个经济体。
开放权重还赋予客户更大的控制权。当组织投资人工智能时,他们希望确保自己不会被锁定在单一供应商身上,也不会失去长期积累的知识和能力。开放权重模型通过允许组织掌控自身数据、根据自身需求评估和调整模型,并在业务需求所在的任何地方部署模型,从而提供了这种保障。随着组织利用人工智能创造价值,开放权重使它们能够通过自我改进的模型、专业能力和积累的知识来拥有这些价值,从而推动美国的主权和繁荣。
诚然,开放权重确实存在真实且独特的风险。一旦发布,权重便超出了原始开发者的控制范围,且修改后的版本难以追踪或回溯。但应对这一风险的正确方式并非禁止开放权重。在网络安全攻击者使用先进人工智能的当今世界,防御方需要获得具备同等能力的模型,以便检测、模拟并应对新兴威胁。开放模型能够拓宽防御能力,提高透明度,并使多个团队能够共同发现和修复漏洞。
事实上,开放性可能是实现人工智能安全与保障的最重要途径之一。仅依赖封闭模型本身并不安全:这些模型可能遭到入侵、被滥用,或以外界无法察觉的方式发生故障。而将先进的人工智能能力集中于少数封闭模型之中,则会加剧这一风险。这将导致少数几个单点故障,削弱市场竞争,并使关键技术掌握在少数几家供应商手中。另一方面,开放权重模型则允许广大研究人员和开发者社区对其行为进行审查、识别漏洞、制定防护措施,并随着时间的推移不断改进这些模型。正如开源软件所证明的那样,透明度往往比隐秘性更安全;人工智能的安全性可能取决于让更多人能够测试并强化社会所依赖的模型。这使得能够进行严格的基准测试和评估、红队演练,并针对实际且已证实的危害采取防护措施,而不是默认认为封闭系统更安全。
一个强大的人工智能生态系统并非必然结果。政策制定者现在有一个重要的行动机会。这包括为初创企业和研究人员扩大计算资源的获取渠道,投资于共享的训练资源(数据集、工具、评估框架),并通过避免对开放模型实施过早限制——此类限制会扼杀竞争或将创新驱向海外——从而保持技术前沿的多样性。这些措施还必须着眼于强大的应用层如何在整个经济领域内扩大对人工智能的主权使用。
在塑造这一生态系统时,政策制定者应谨慎行事,避免将合法的模型开发技术与不当挪用混为一谈。蒸馏(即利用一个模型的输出结果来帮助训练或改进另一个模型的做法)是一种广泛用于模型改进、评估和验证的技术。它体现了从现有技术中学习、在此基础上构建并加以改进的悠久传统——自开源软件运动兴起以来,这一传统一直推动着创新。相比之下,从封闭模型中非法提取价值的行径则引发了合理的担忧。应通过有针对性的法律和商业框架来解决这些担忧,而非对在人工智能创新中发挥重要作用的技术实施一刀切的限制。 
人工智能时代可以成为一个繁荣的时代。只要做出正确的选择,开放权重的人工智能就能拓展机遇、增强竞争力、巩固美国的科技领导地位、降低风险,并确保这项非凡技术带来的好处能广泛惠及整个经济。这样的未来值得我们去建设,而美国应当在建设这一未来的过程中发挥领导作用。
签名:American Innovators Network ● Andreessen Horowitz ● Arcee AI ● Arena ● Black Forest Labs ● Box ● CrowdStrike ● Dell Technologies ● Emergence Capital ● Hugging Face ● IBM ● The Linux Foundation ● Mariana Minerals ● Meta ● Microsoft ● Mistral ● Mozilla ● NVIDIA ● Palantir ● Perplexity ● Reflection ● Replit ● ServiceNow ● Telnyx ● Y Combinator