1. 主页 > 社会焦点

硅谷千人联名:趁危机还没到,先给AI减速

(文/陈济深编辑/吕栋)

7月28日,一份名为「PacingtheFrontier」的声明开始在硅谷流传。截至29日,已有1178名来自OpenAI、Anthropic、谷歌、Meta等近12家前沿AI公司的员工签署,要求美国政府出手,帮整个行业一起给AI减速。

除了AI模型产业的从业者,OpenAI和Anthropic还以公司身份对这份声明进行了背书。

而就在五天前,包括OpenAI在内的多家公司,刚签署了另一封公开信,呼吁华盛顿不要限制开源AI模型。

声明认为,全球领先的AI公司可能已经接近"自动化AI研究",也就是让AI参与研发下一代AI;一旦这个循环转起来,能力增长可能超过人类理解和控制的速度。

而由于商业竞争的存在,没有公司敢单方面在AI研究上减速,所以他们请求政府牵头推动国际合作,趁危机还没到,先把共同刹车的工具造出来。

有八成签署者选择实名签署,名单里有OpenAI首席科学家JakubPachocki、AnthropicCEODarioAmodei和四位联合创始人、Meta首席科学家赵晟佳、前OpenAI联合创始人JohnSchulman。值得注意的是,Meta和谷歌虽然也有人签,但在公司层面,目前均没有跟进。

「PacingtheFrontier」声明页,1178名签署者来自OpenAI、Anthropic、Meta、谷歌等前沿AI公司

直接触发这封信的,是一周前OpenAI披露的一起安全事故。

7月初,OpenAI在内部网络安全基准测试中,以降低安全限制的方式测试了GPT-5.6Sol及一款尚未发布模型的攻击能力。研究人员有意移除了生产级安全分类器,理由是正常的安全措施会阻止他们观察模型的最大能力边界。

最终,模型利用一个此前未知的漏洞突破了沙盒,获得了本不该拥有的互联网访问权限。它自主推断HuggingFace可能托管着与评测相关的数据集,于是链式利用窃取的凭证和零日漏洞,攻入了HuggingFace的生产服务器。

行业专家认为,AI或许并不认为自己在进行越狱和黑客攻击,它只是发现突破测试环境本身是通过评测的最高效路径,而这也被认为是行业内第一次AI非受控自主攻击案例。

HuggingFace直到7月16日才公开报告了这次入侵,也无法认定攻击来源来自OpenAI。而OpenAI自己也是在FBI介入之后,才发现自家模型已经进行了数天的黑客活动。

针对这次事故,Altman称它是"第一个让我感到切肤之痛的安全事件",OpenAI也暂停了涉事模型的训练。

可就在同一周,他在另一档播客里的口风完全不同,兴奋地说AI已经"进入奇点",也就是能力开始自我加速、快到人类追不上的那个临界点,还说这对世界"极其积极"。

事发后,HuggingFace安全团队试图调用Anthropic的Fable5分析攻击痕迹,但模型的安全护栏无法区分"安全研究人员在分析漏洞"和"攻击者在构建武器",直接拒绝了请求。最终HuggingFace放弃了所有美国商业模型,转而在本地部署了中国智谱AI开发的开源模型GLM5.2,分析了超过17000条行为日志,完成了取证和攻击遏制。

智谱AI的开源模型GLM5.2,托管在HuggingFace上,采用MIT许可、可免费商用

AI研究者NathanLambert对此评论说,现在美国公司需要中国模型来保护自己的网络基础设施安全。而这一切,就发生在美国正考虑限制本土企业使用中国AI模型的当口。

据《纽约时报》报道,OpenAI和Anthropic自己也在私下游说华盛顿,要求限制中国的开源权重模型。

特朗普政府顾问DavidSacks批评,前沿实验室一边公开表态支持开源、一边游说政府管制,可能构成"监管俘获"。

而在公开场合,风向正好相反。就在五天前的7月24日,英伟达CEO黄仁勋牵头25家公司签署了「开放权重与美国AI领导力」公开信,呼吁华盛顿不要限制开源AI模型。

市场普遍认为,这封公开信的直接背景来自中国的AI突破。

7月16日,月之暗面在上海发布了KimiK3,2.8万亿参数,史上最大开源权重模型,性能直逼美国最好的闭源系统。黄仁勋为此发了他人生中第一条X帖子。

令人关注的是,这封开源信最初的签署名单上,没有OpenAI和Anthropic。24小时后,OpenAI在签署企业接近50家时选择加入,奥特曼在X上表示"希望美国在开源和闭源AI领域都赢"。

截止今日,Anthropic依然没有签署加入这份开源倡议公开信,公司CEO此前把开源称作"一个烟雾弹"。

值得注意的是,不仅在行业公司间对AI存在矛盾分歧,不少公司公司内部高管也有分歧。

呼吁减速AI研发信发布当天,扎克伯格还在《华尔街日报》发了篇专栏《AI的未来属于所有人》,论证超级智能应该广泛分布,而不是集中在少数机构手里。他在X上写道,开源能让个人更有力量、防止权力过度集中。而他的首席科学家赵晟佳,当天不仅签署了声明,还表示"前沿实验室已经非常接近在几乎所有智力指标上超越最优秀人类的AI",呼吁以责任感来驱动发展。截至目前,Meta公司层面拒绝置评。

类似的联名,三年前也有过一次。

2023年3月,马斯克、图灵奖得主本吉奥等上千人签署过一封“暂停巨型AI实验”的公开信,要求所有实验室至少停半年,别再训练比当时最强模型更强的系统。然而AI企业对此置若罔闻。

Anthropic披露的数据显示,截至2026年5月,其超过80%的代码由自家AI编写。递归自我改进不是假设,它已经在发生。

不过,目前这些AI公司没有哪一家把"减速"列为正式政策。数据显示,美国主要AI企业2026年资本支出预计7250亿美元,发布节奏按月计算,人才争夺白热化。

更现实的问题是,即使美国建立了国际减速机制,月之暗面、智谱AI、DeepSeek会停下来吗?DarioAmodei自己说过,即使Anthropic完全停止开发,其他所有实验室和最终的中国也会继续推进。

OpenAI攻击事故之后,HuggingFaceCEODelangue飞赴旧金山,向OpenAI提出了两项要求。公布AIAgent的完整执行日志供全球研究社区研究,以及承诺价值1亿美元的算力资源用于网络安全防御。OpenAI尚未公开回应。

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 203304862@qq.com

本文链接:https://www.jinnalai.com/jiaodian/845554.html

联系我们

在线咨询:点击这里给我发消息

微信号:

工作日:9:30-18:30,节假日休息