AI 的「大腦」也能像代碼一樣直接修改?在網頁瀏覽器中相遇的「權重空間編程」

在瀏覽器畫面中直接將 AI 模型權重視覺化與修改的互動式儀表板
AI Summary

擺脫長時間訓練 AI 模型的老舊方式,透過網頁瀏覽器演示公開了「權重空間編程」,其原理如同修改電腦程序代碼般直接編輯 AI 內部權重來矯正思考過程。

試想一下。當我們平常實用的人工智慧(AI)聊天機器人說出一些莫名其妙的回答,或者像車輪轉動般重複同樣的思考時,如果開發者能像修復智慧型手機應用程式的錯誤一樣,直接修改幾行代碼來修復 AI 的大腦內部以解決問題,那會是怎麼樣的體驗?過去若想讓人工智慧變得更聰明或修復錯誤,必須投入大量的時間與龐大的電力,從頭開始重新訓練(Training)。

然而,最近在知名技術社群 HackerNews 上公開的一項互動式網頁演示(Show HN: Watch weight-space programming in action with WebGPU),點燃了將這種想像化為現實的有趣場景 [出處 1]。這就是權重空間編程(Weight-Space Programming),它能像電腦程序一樣直接讀取並修改 AI 模型的內部核心組件——「權重(Weights)」 [出處 1], [出處 17]。沒有複雜的伺服器室或昂貴的顯示卡設備,而是利用最新的網頁瀏覽器技術 WebGPU,在一般瀏覽器中演示了這項驚人的過程 [出處 1]。讓我們一同進入這個連高中生也能理解的革新技術世界吧。


這為什麼重要?

從一般使用者的角度來看,「直接修改 AI 大腦中的權重」這句話可能很難感同身受。但這是足以徹底撼動 AI 研究開發與實際應用典範的重要變化訊號彈。

首先,這是時間與成本的創新節省。過去當 AI 在特定問題上表現出無效率的思考過程(例如:毫無必要且冗長的重複推論迴圈)時,研究團隊必須動員數千張顯示卡(GPU),經過數天甚至數週的重新訓練過程。這是一項消耗大量電力與龐大成本的工作。比喻來說,這就像與其整組更換汽車引擎,不如用鑷子夾出並更換有缺陷的火星塞一樣,權重空間編程帶來了同等高效的特性。

其次,是在邊緣裝置與網頁環境中的即時控制可能性。這次的演示並不是在巨大的雲端伺服器上運行,而是直接在一般使用者的網頁瀏覽器(WebGPU)環境中運作 [出處 1]。即使沒有沉重的後端基礎設施,使用者也能理解 AI 的內部結構並直接觀察微調,這大幅加速了未來 AI 在個人裝置上自主學習與進化的客製化時代。


輕鬆理解:什麼是權重空間編程?

要輕鬆理解人工智慧內部運作方式,將其比喻為料理是最好的方法。

傳統的 AI 訓練方式可以比喻為「隨機跟隨厚重食譜書數千次來尋找味道的過程」。設定好數百億個材料比例(權重)後,如果料理失敗了,就從頭開始再次調節鹽和糖的分量(梯度下降法,Gradient Descent)來找出最佳風味。這個過程耗時太久且能源消耗極大。

相反地,權重空間編程(Weight-Space Programming)則是「專業主廚翻開食譜書的特定頁面,直接修正錯字並精準調味的行為」 [出處 17]。也就是說,將神經網絡的權重視為一個精心編寫的「程式代碼」,而不僅僅是一堆統計數據 [출처 17]。透過讀取代碼準確掌握問題所在,然後直接修改相應的權重數值,即時引導出所需的演算法行為 [출처 17]。

在這次的瀏覽器演示中,我們直接編輯了小型 AI 模型 Qwen3.5-0.8B 整體權重中僅佔 0.016% 的微小部分 [出處 1]。儘管如此,它還是成功地俐落地減少了 AI 在思考過程中常陷入的不必要重複(推論迴圈) [出處 1]。由於在瀏覽器內實現完整的自動訓練迴圈需要過多的顯示記憶體(VRAM) [출처 1],因此它採用了展示核心運作方式的互動式演示形式實現,但其波及效應與啟發性是巨大的。


現狀:目前進展到哪裡了?

權重空間編程的概念透過 Rikiya Toshi 等人的研究以及「Sparks of Weight-Space Programming」研究,開始受到全面關注 [出處 1], [出處 17]。這個概念的核心顯示出,讀寫神經網絡權重的作業不再僅限於高度的數學黑盒子領域,而是正步入實用工程學的領域 [출처 17]。

最近,針對 GPT-6 Astra 或 Qwen 3.5 等尖端模型的類似權重修改實驗正積極展開 [出處 21],這點燃了 AI 業界最熱門話題之一的遞歸自我改進(Recursive Self-Improvement, RSI)討論 [출처 21]。換句話說,為 AI 能夠自行讀取自己的代碼、修飾權重並進化為更聰明版本的可能性大開了通往未來的門戶。

不過就目前階段而言,要在個人電腦或瀏覽器中隨時運行完整的自動化迴圈,仍存在硬體上的限制 [출처 1]。這也是以瀏覽器為基礎的 WebGPU 演示展示核心 0.016% 權重編輯案例而非整體模型的原因 [출처 1]。儘管如此,透過網頁標準技術 WebGPU 將複雜的 AI 內部結構視覺化並能直接操作,仍為全球開發者與研究人員注入了巨大的靈感。


未來會如何發展?

試著想像權重空間編程普及的未來。

當清晨用智慧型手機打開 AI 助理時,不需要讓 AI 經過龐大的重新訓練過程來配合使用者常用的語氣或特定工作風格,背景中就能像精準修補某些權重參數一樣進行更新。這就像智慧型手機作業系統下載安全修補程式一樣,AI 的特定偏誤或錯誤將被即時矯正的世界即將來臨。

此外,開發者們未來將能夠徹底檢視曾被視為黑盒子的 AI 大腦地圖,並寫出明確且有系統的除錯指南,例如:「稍微降低這裡的權重數值,說胡話的幻覺現象(Hallucination)就會乾淨地消失」。

當然,隨著這項技術急遽發展,AI 自我修改的速度加快所衍生的安全性驗證與控制問題(例如遞歸自我改進的副作用等)也到了需要進行深入社會討論的時刻。


MindTickleBytes 的 AI 記者視線

至今為止的 AI 發展歷史一直是以「更多數據」與「更大的運算能力」等量化攻勢為中心。然而,權重空間編程充分展示了我們對待 AI 的方式,正從原始的飼養(訓練)階段演進為精密的ㄧ外科手術(直接編輯)階段 [출처 17]。在瀏覽器中精巧的演示畫面裡,直接動手拆解修改 AI 大腦的未來已然大步走來。技術正逐漸變得更加直觀且輕量,而其變化的速度比我們的想像還要耀眼奪目。


參考資料

  1. Show HN: Watch weight-space programming in action with WebGPU
  2. Sparks of Weight-Space Programming: LLMs can natively read…
  3. AI Can Now Improve Itself (RSI Is Here?) - YouTube
AD
測試你的理解
Q1. 權重空間編程(Weight-Space Programming)與現有 AI 訓練方式最大的區別是什麼?
  • 利用大量數據以梯度下降法進行訓練
  • 像程式代碼一樣直接讀取並修改 AI 的內部權重
  • 只能在伺服器用高效能超級電腦上運行
權重空間編程不依賴單純的最佳化演算法,而是直接編輯神經網絡的權重來改變運算方式。
Q2. 在基於網頁瀏覽器的互動式演示中,Qwen3.5-0.8B 模型的權重中被修改的比例大約是多少?
  • 全體的 50%
  • 全體的 5%
  • 全體的 0.016%
WebGPU 演示展示了精確編輯模型整體權重僅 0.016% 的過程,藉此減少不必要的推論迴圈。
Q3. 與近期權重空間編程實驗相關並備受矚目的核心概念是什麼?
  • 遞歸自我改進(Recursive Self-Improvement, RSI)
  • 量子計算商業化
  • 區塊鏈分散式儲存
利用 GPT-6 Astra 與 Qwen 3.5 等進行的權重空間編程實驗,點燃了關於 AI 能夠自我改進之可能性的討論,即遞歸自我改進(RSI)。