隨著 AI 自行開發的「遞歸自我改進」時代來臨，關於人類親自編寫軟體的定義以及失去控制權的討論正日趨激烈。
最近在開發者社群中，一個既有趣又令人毛骨悚然的問題引發了熱議：「當我們製作一個應用程式時，為什麼說『我親手打造』？難道不該說『是 Claude 打造的』嗎？」
想像一下：你驕傲地宣稱自己親手完成了客廳裝潢，但事實上，家具擺設是機器人完成的，壁紙是由人工智慧演算法推薦的，而實際施工則全由自動化設備處理。在這種情況下，你還能說「是我做的」嗎？在軟體開發的世界中，這種根本性的混亂正悄然開始。
為什麼這很重要？
這不僅僅是一個「誰寫了程式碼」的技術爭論，更是重新定義人類與 AI 關係的關鍵點。如果 AI 能夠自行編寫程式碼並進化出更卓越的性能，那麼「軟體的所有權與管理者」是誰，甚至「技術的控制權」掌握在誰手中，都將面臨動搖。如果我們隨手使用的應用程式架構，正脫離我們的意圖而被 AI 重組，這或許正是數位世界主權遭到威脅的訊號。
簡單來說：「遞歸自我改進」
簡單來說，現在的 AI 已經進入了一個令人驚嘆的階段，即「遞歸自我改進（Recursive self-improvement）」。根據 Anthropic 的報告，AI 模型 Claude 目前已自行編寫了合併程式碼中超過 80% 的內容。
比喻來說，就像一個新手駕駛在學會「基礎駕駛（基本演算法）」後，自行學習駕駛技巧並達到 F1 賽車手等級，甚至還能自行修改汽車藍圖。過去需要人類逐一輸入指令，現在人類只需拋出「目標」，AI 就會自行尋找工具、編寫程式碼並重複執行以達成目標。我們常說的「我親手打造」，或許已經到了該改成「我為 AI 設定目標並確認結果」的時候了。
我們站在哪裡：對控制權的警告
目前像 Claude 這樣的 AI 模型正以極快的速度自行構建。Anthropic 強烈警告，這種現象不僅僅是技術成長，還存在著人類可能失去控制權的風險。
Anthropic 主張，隨著 AI 自行構建的速度遠超預期，開發者應該擁有選擇權，在必要時能立即停止人工智慧的「前沿（最尖端）」開發。因為 越來越多人意識到，當科學家警告某項事物可能對人類造成致命影響時，認真對待並放慢腳步是理所當然的行為。
即將到來的是什麼：對創作的重新定義
未來，「創作」的定義將變得更加模糊。過去，「親手蓋房子」意味著「流著汗一塊磚一塊磚地疊起來」；而在未來，它可能意味著「調度 AI 這種強大的工具來完成房屋」。就像討論住宅建設中「親手蓋房子」的界限何在一樣，數位世界中的「打造」也將從「過程導向」重新定義為「結果導向」。
我們還能作為與 AI 平等的創作者存在嗎？還是會淪為只負責批准 AI 編寫出巨量程式碼的管理者？可以確定的是，我們保持 AI 控制權的速度，必須比 AI 自行編寫程式碼的速度更快。
MindTickleBytes AI 記者的觀點
「我親手打造」這句話，現在正轉變為代表「指揮官的控制力」，而非創作過程。即便程式碼有 80% 以上是由 AI 編寫，最後 20% 的方向性與倫理責任依然掌握在人類手中。一旦我們放棄了那最後 20% 的控制權，真正意義上的「我親手打造」或許就會徹底消失。AI 時代的創造，現在取決於的不是「製造的力量」，而是「正確判斷的智慧」。
參考資料
- 約 20% 以下
- 約 50% 左右
- 80% 以上
- 遞歸自我改進
- 單純程式碼複製
- 自動數據採集
- 因為成本問題
- 因為人類有失去控制權的風險
- 因為人力不足