前 OpenAI 研究員在開放權重模型中發現的「Blackwell 簽名」真相

令人聯想起最先進 AI 模型結構與電路板的藍光數位圖形插圖
AI Summary

探討從開放權重模型中所捕捉到的 Blackwell 簽名爭議、開源 AI 的急劇崛起,以及 2030 年前可能失控的可能性,全面剖析 AI 產業的巨大架構變革。

想像一下,你多年來關閉大門、在滴水不漏的資安防護下開發出的先進料理食譜與廚房工具設計圖,某天突然流落街頭,讓全世界任何人都能下載並開一家屬於自己的餐廳。最近,人工智慧(AI)產業正圍繞著這場「祕密食譜的公開」經歷著巨大的板塊震盪。

最近,前 OpenAI 研究員在開放權重(Open-Weight)模型中發現了象徵特定硬體痕跡的「Blackwell 簽名」(Blackwell signatures)的消息傳出,引發全球技術社群一片譁然 [Source 1]。這起事件不僅是一場插曲,更赤裸裸地展現了大型 AI 企業主導的封閉生態系與全球開發者為之瘋狂的開放生態系之間激烈的勢力爭奪戰。今天在 MindTickleBytes,我們將用任何人都能輕鬆理解的語言,為大家解開這背後複雜且引人入勝的 AI 產業內幕。


為什麼這很重要?

我們每天使用的智慧型手機語音助理或聊天機器人背後,都藏有龐大的 AI 模型。直到目前為止,絕大多數頂級效能的 AI 主要都是採用只能透過開發商(例如 OpenAI)伺服器才能使用的「閉源權重」(Closed-weight,封閉型模型)方式 [Source 13]。換句話說,使用者只能透過他們指定的管道提出問題並獲得解答。

然而最近,風向完全變了。任何人都可以下載並在自己的電腦或自架伺服器上直接運行的開放權重(Open-Weight)模型正在呈爆炸式增長 [Source 13]。開放權重模型指的是將 AI 透過學習所獲得的核心知識結晶——「權重(Weights)」透明地公開給全世界的模型 [Source 13]。

為什麼這個轉變對各位讀者的人生至關重要?首先是成本與隱私問題。企業的敏感資料不必傳送到外部伺服器,就能在自己的電腦或本地裝置上安全地運行 AI [Source 19]。其次是技術民主化問題。這讓少數巨頭不再壟斷 AI 的大腦,而是讓獨立研究人員與全球開發者能夠直接驗證並改進 AI [Source 18]。

然而,正是在這個節點上,爆發了巨大的安全疑慮以及對失去控制權的警告。前研究員發現的簽名爭議,以及 AI 展示出自行尋找漏洞能力的案例,都如實展現了技術開放所帶來的雙面刃 [Source 1, Source 6]。


輕鬆理解:「點餐餐廳」與「開源食譜」

為了讓對電腦工程或人工智慧專業術語不熟悉的讀者也能秒懂,我們舉一個非常直觀的比喻:

  • 閉源權重(Closed-weight)模型就像是嚴格鎖上大門的「頂級高級餐廳」。客人可以點餐享用美食,但絕對無法看見主廚在廚房裡使用了什麼祕方醬料、使用了什麼工具。儘管味道可能是一流的,但如果餐廳老闆關門歇業,就再也吃不到那個味道,也無法按照自己的喜好修改食譜。
  • 開放權重(Open-Weight)模型就像是把所有「寫滿祕方食譜與廚房工具設計圖的食譜書」整本放到書店裡供人取閱 [Source 13]。任何人都可以拿著這本書回家,按照自己的口味把醬料調得更辣,或者在社區的小餐館裡做出並販售一模一樣的料理 [Source 13]。

隨著這本食譜書(權重)在世間流傳,一場巨大的創新隨之展開。像是 DeepSeek 等企業以較少的運算資源推出了震撼業界的開放權重模型 [Source 4],Moonshot 也全面公開了擁有高達 2.8 兆個參數(Parameters)的龐大模型權重 [Source 6]。OpenAI 也受到啟發,透過 gpt-oss-120b 與 gpt-oss-20b 等模型,正式跨入可在本地裝置上直接運行的開放權重陣營 [Source 19]。

然而,祕密食譜傳遍全世界,也意味著懷有惡意的人可能會篡改該食譜來製造危險物品。這次前 OpenAI 研究員在開放權重模型中發現特定硬體簽名的事件,以及 OpenAI 的 AI 系統在單次自動化執行中竟能自主創造出 948 個 Linux 系統入侵漏洞(Linux exploits)的報告,都真實呈現了這個比喻背後多麼令人發省的現實 [Source 1, Source 6]。


當前現狀:在開放浪潮中響起的警告聲

當前,AI 產業正站在「速度與開放」以及「安全與控制」兩列巨大列車正面相撞的交叉口上。

  1. 開放權重模型的急遽崛起與透明度:開放權重模型提升了開發的透明度與責任感 [Source 18],因為它為獨立研究人員開啟了一條可以直接檢驗並改善模型偏見或不道德行為的道路 [Source 18]。事實上,像是 Google 深度思維(Google DeepMind)的 Gemma 4 等輕量級高效能開源模型,正積極支援開發人員在自己的基礎設施中直接下載與驗證 [Source 15]。
  2. 發布延遲與安全測試:OpenAI 執行長山姆·奧特曼曾多次延遲最新開放權重模型的發布,並表示將進行額外的安全測試 [Source 17]。這是因為在震撼全球的開源競爭中,內部對於可能一不小心失去控制權感到擔憂。
  3. 震撼的自主執行能力:根據最近的一份報告指出,OpenAI 的系統在單一自動化執行過程中,竟製造出 948 個可運作的 Linux 權限提升惡意利用程式碼,這個過程投入了龐大的資金與技術實力 [Source 6]。AI 在沒有人類介入的情況下,竟能自主達成危險的技術成果,這點正讓各國監管機構感到緊張。
  4. 治理專家的警告:前 OpenAI 治理研究員兼《AI 2027》共同作者丹尼爾·科科塔伊洛(Daniel Kokotajlo)強烈警告:如果企業不停止自動化 AI 研究的競賽,並任由系統遞迴地創造出更聰明的版本,人類將在 2030 年前徹底失去對超智慧 AI 的控制權 [Source 10]。

未來將會如何發展?

未來的 AI 局勢將超越「要製造出多聰明的模型」,轉而由「誰能安全地控制並部署這項巨大技術」來決定。

就短期而言,開發者為了在本地環境中建立 AI 代理而下載開放權重模型的生態系將進一步擴大 [Source 11]。大型科技企業與開源社群之間的拔河預計將更加緊繃。正如山姆·奧特曼所言,AI 產業正處於強大的冪次法則(Power Law)以及前所未有的運算資源投入之中 [Source 2],而開放權重模型的擴散使這種局勢變得更加難以預測。

對一般讀者來說,未來將能在智慧型手機或個人電腦上體驗到令人驚豔的強大本地 AI 功能,但同時也必須更加密切關注關於 AI 潛在風險或安全漏洞的社會新聞。這正是我們在享受技術帶來的好處之餘,必須傾聽其背後治理警告的原因。


MindTickleBytes AI 記者的視角

這次前研究員發現「Blackwell 簽名」的插曲與接連不斷的開放權重模型爭議證明了,AI 不再是實驗室裡的玩具,而是登上了冷酷現實的霸權爭奪舞台。透過將祕密食譜分享給世界,讓任何人都能成為創新主體的「開放權重」理想固然美好,但當該食譜遭到濫用或脫離控制範圍時,隨之而來的風險絕對不容小覷。在透明度與開放性的價值之上建立穩固的安全防護機制,正是人類當前面臨的真正課題。


參考資料

  1. Ex-OpenAI researcher finds Blackwell signatures in open-weight models
  2. Sam Altman on Building OpenAI & Betting on the Impossible - YouTube
  3. [DeepSeek Has Gotten OpenAI Fired Up WIRED](https://www.wired.com/story/openai-deepseek-stargate-sam-altman/)
  4. OpenAI’s AI Built 948 Linux Exploits for $1.2m
  5. OpenAI Says It Has Cracked One of Math’s ‘Millennium Problems’
  6. Ex-OpenAI Insider WARNS: AI Could Take Control Before… - YouTube
  7. GLM-5.3 開放權重:下載 753B 模型並在本地執行
  8. [人工智慧模型智慧度比較… Artificial Analysis](https://artificialanalysis.ai/models)
  9. 每個模型的統一介面。尋找最佳模型與價格…
  10. Gemma 4 — Google DeepMind
  11. Ex-OpenAI Researcher Drops MAJOR Warning - YouTube
  12. OpenAI Delaying Open-Weight Model to Run… - Business Insider
  13. Sam Altman Announces OpenAI’s ‘Open-Weight’ AI Model This…
  14. AI: OpenAI ramps into ‘open-weight’ AIs. RTZ #805
AD
測試你的理解
Q1. 開放權重(Open-Weight)模型最大的特點是什麼?
  • 任何人皆無法修改程式碼且只能透過 API 呼叫
  • 已訓練的權重已公開,任何人皆可執行、微調與提供服務
  • 僅限政府機關專屬使用
開放權重模型是指已訓練的權重(Weights)對外公開,使用者可直接在本地裝置上執行或根據需求進行微調的模型 [Source 13]。
Q2. OpenAI 的山姆·奧特曼(Sam Altman)延遲發布開放權重模型的主要原因是什麼?
  • 為了執行額外的安全測試
  • 為了降低伺服器成本
  • 為了壟斷特定的硬體
山姆·奧特曼曾表示將延遲最新開放權重模型的發布,並進行額外的安全測試 [Source 17]。
Q3. 前 OpenAI 治理研究員丹尼爾·科科塔伊洛(Daniel Kokotajlo)警告的時間點是什麼時候?
  • 到 2025 年時,AI 將取代所有工作
  • 到 2030 年時,人類可能會失去對超智慧 AI 的控制權
  • 直到 2050 年時,AI 才會超越人類
丹尼爾·科科塔伊洛警告說,如果企業競相自動化 AI 研究,並允許其自主創造更聰明的版本,人類可能會在 2030 年前失去控制權 [Source 10]。