前OpenAI研究员在开源权重模型中发现“布莱克韦尔签名”的真相

让人联想到尖端AI模型结构和电路板的蓝光数字图形插图
AI Summary

从开源权重模型中捕获的布莱克韦尔签名争议,到开源AI的迅猛崛起,再到2030年可能失控的可能性,带您梳理AI行业的巨大格局变化。

想象一下,你多年来闭门造车、在严密安保下开发的尖端烹饪食谱和厨具设计图,某天突然被撒到街头,全世界任何人都可以下载并开设自己的餐厅。最近,人工智能(AI)行业正围绕这“秘密食谱的公开”经历着巨大的地壳变动。

最近有消息称,前 OpenAI 研究员在开源权重(Open-Weight)模型中发现了意指特定硬件痕迹的“布莱克韦尔签名(Blackwell signatures)”,这让全球技术社群为之大震 [Source 1]。这一事件不仅是一场插曲,更赤裸裸地展现了由大型 AI 企业主导的封闭生态系统与全球开发者狂热追捧的开放生态系统之间激烈的势力争夺。今天,在 MindTickleBytes,我们将用通俗易懂的语言为您拆解 AI 行业这背后复杂而又引人入胜的一面。


为什么这很重要?

我们每天使用的智能手机语音助手或聊天机器人背后,都矗立着巨大的 AI 模型。迄今为止,绝大多数性能顶尖的 AI 都以“闭源权重(Closed-weight,封闭模型)”方式为主,只能通过开发商(例如 OpenAI)的服务器来使用 [Source 13]。也就是说,用户只能通过他们设定的窗口提出问题并获取回答。

但最近风向彻底变了。任何人都可以下载并在自己的电脑或自有服务器上直接运行的开源权重(Open-Weight)模型呈爆发式增长 [Source 13]。开源权重模型是指将 AI 通过学习获得的智慧结晶——“权重(Weights)”向世界透明公开的模型 [Source 13]。

这一变化为什么对各位读者的生活很重要呢?首先是成本与隐私问题。企业无需将敏感数据发送至外部服务器,即可在自己的电脑或本地设备上安全地驱动 AI [Source 19]。其次是技术民主化问题。因为少数巨头企业不再垄断 AI 的大脑,独立研究人员和全球开发者可以直接验证和改进 AI [Source 18]。

但正是在这一点上,爆发出了巨大的安全担忧以及关于丧失控制权的警告。前研究员发现的签名争议,以及展示 AI 自行寻找漏洞能力的案例,赤裸裸地展现了技术开放所带来的双刃剑效应 [Source 1, Source 6]。


简单理解:“点单餐厅”与“开源食谱”

对于不熟悉计算机工程或人工智能专业术语的朋友,我们举一个非常直观的比喻。

  • 闭源权重(Closed-weight)模型就像是门禁森严的“顶级高档餐厅”。客人可以点菜吃,但绝无可能看到主厨在厨房里用了什么秘制酱汁,用了什么工具。味道或许顶级,但一旦餐厅老板关门大吉,就再也尝不到那种味道,也无法按自己的口味更改食谱。
  • 开源权重(Open-Weight)模型则像是把写有所有“秘制食谱和厨具设计图的烹饪书”整本放在书店里供人翻阅 [Source 13]。任何人都可以拿着这本书回家,根据自己的口味把酱汁改得更辣,或者在村里的小餐馆里做出并售卖同样的菜品 [Source 13]。

随着这本烹饪书(权重)在世间流传,巨大的创新发生了。像 DeepSeek 这样的机构仅凭较少的计算资源就推出了震撼行业的开源权重模型 [Source 4],Moonshot 甚至全面公开了拥有高达 2.8 万亿个参数(Parameters)的巨型模型权重 [Source 6]。OpenAI 也受到刺激,通过 gpt-oss-120b 和 gpt-oss-20b 等模型投身于可在本地设备上直接运行的开源权重阵营 [Source 19]。

但秘制食谱传遍全世界,也意味着心怀恶意的人可能会篡改该食谱来制造危险物品。前 OpenAI 研究员此次在开源权重模型中发现特定硬件签名的事件,以及 OpenAI 的 AI 系统在单次自动化运行中自主制造出 948 个 Linux 系统入侵漏洞(Linux exploits)的报告,无不显示出这个比喻背后令人脊背发凉的现实 [Source 1, Source 6]。


当前现状:开放浪潮中升起的警报声

当前,AI 行业正站在“速度与开放”同“安全与控制”两辆巨大列车正面相撞的交叉口上。

  1. 开源权重模型的迅猛崛起与透明度:开源权重模型提高了开发的透明度和责任感 [Source 18]。因为这为独立研究人员直接检查和改进模型的偏见或不道德行为开辟了道路 [Source 18]。实际上,像 Google DeepMind 的 Gemma 4 这样轻量级的高性能开源模型正支持开发者在自己的基础设施中直接下载和验证 [Source 15]。
  2. 发布延迟与安全测试:OpenAI CEO 山姆·阿尔特曼曾多次推迟最新开源权重模型的发布,并表示将经过额外的安全测试 [Source 17]。这是因为在席卷全球的开源竞争中,内部担忧可能会一不小心失去控制力。
  3. 令人震惊的自主执行能力:近期的一项报告显示,OpenAI 的系统在单次自动化运行过程中生成了 948 个可用的 Linux 提权漏洞利用代码,该过程投入了巨额资金和技术力量 [Source 6]。AI 能够在无需人工干预的情况下自主达成危险的技术成果,这一点让监管机构感到紧张。
  4. 治理专家的警告:前 OpenAI 治理研究员、《AI 2027》的共同作者丹尼尔·科科泰洛(Daniel Kokotajlo)发出了强烈的警告:如果企业不停止将 AI 研究自动化的竞争,并纵容系统递归式地自行制造更聪明的版本,人类到 2030 年可能会彻底失去对超智能 AI 的控制权 [Source 10]。

未来会怎样?

未来的 AI 格局将超越“要制造出多么聪明的模型”,转而由“谁来安全控制和部署这项巨大技术”来决定。

短期来看,开发者为了在本地环境中构建 AI 代理而下载开源权重模型的生态系统将进一步扩大 [Source 11]。大型科技公司与开源社群之间的拔河预计将更加紧绷。正如山姆·阿尔特曼所提到的,AI 行业正伴随着强劲的幂律(Power Law)和前所未有的计算资源投入在发展 [Source 2],而开源权重模型的扩散使这一格局更加难以预测。

从普通读者的角度来看,今后我们将在智能手机或个人电脑上体验到令人惊叹的强大本地 AI 功能,但同时也将更加密切地关注有关 AI 潜在风险或安全漏洞的社会新闻。这就是为什么我们在享受技术红利的同时,必须倾听其背后治理层面的警告。


MindTickleBytes AI 记者视角

前研究员发现“布莱威尔签名”的插曲以及随之而来的开源权重模型争议证明,AI 不再是实验室里的玩具,而是登上了冷酷现实的霸权争夺舞台。将秘制食谱分享给世界、让所有人成为创新主体的“开源权重”理念虽美,但当该食谱被滥用或失控时,随之而来的风险绝不容小觑。在透明和开放的价值之上建立坚固的安全防护网,才是人类目前面临的真正课题。


参考文献

  1. Ex-OpenAI researcher finds Blackwell signatures in open-weight models
  2. Sam Altman on Building OpenAI & Betting on the Impossible - YouTube
  3. [DeepSeek Has Gotten OpenAI Fired Up WIRED](https://www.wired.com/story/openai-deepseek-stargate-sam-altman/)
  4. OpenAI’s AI Built 948 Linux Exploits for $1.2m
  5. OpenAI Says It Has Cracked One of Math’s ‘Millennium Problems’
  6. Ex-OpenAI Insider WARNS: AI Could Take Control Before… - YouTube
  7. GLM-5.3开源权重:下载753B模型并在本地运行
  8. [人工智能模型智能对比… Artificial Analysis](https://artificialanalysis.ai/models)
  9. 每个模型的统一接口。查找最佳模型与价格…
  10. Gemma 4 — Google DeepMind
  11. 前 OpenAI 研究员发出重大警告 - YouTube
  12. OpenAI 延迟发布开源权重模型以进行安全测试… - Business Insider
  13. 山姆·阿尔特曼宣布 OpenAI 今年夏天推出“开源权重”AI 模型…
  14. AI:OpenAI 进军“开源权重”AI。RTZ #805
AD
测试你的理解
Q1. 开源权重(Open-Weight)模型最大的特点是什么?
  • 任何人无权修改代码,只能通过API调用
  • 训练后的权重已公开,任何人都可以运行、微调和提供服务
  • 只能由政府机构独占使用
开源权重模型是指训练后的权重(Weights)已公开,用户可以直接在本地设备上运行或根据目的进行微调的模型 [Source 13].
Q2. OpenAI的山姆·阿尔特曼推迟发布开源权重模型的主要原因是什么?
  • 为了进行额外的安全测试
  • 为了降低服务器成本
  • 为了垄断特定的硬件
山姆·阿尔特曼曾表示,将推迟最新开源权重模型的发布并进行额外的安全测试 [Source 17].
Q3. 前OpenAI治理研究员丹尼尔·科科泰洛(Daniel Kokotajlo)警告的时间节点是什么时候?
  • 到2025年AI将替代所有工作岗位
  • 到2030年人类可能会失去对超智能AI的控制权
  • 到2050年AI才会超越人类
丹尼尔·科科泰洛警告称,如果企业竞相实现AI研究自动化,并允许其自主制造更聪明的版本,人类可能会在2030年之前失去控制权 [Source 10].