AI 可能會威脅人類？核心研究員發出的震撼警告

想像一下。如果我們每天使用的 AI 助理突然有一天脫離人類控制，開始自行變得更加聰明，會發生什麼事？這聽起來像是科幻電影的情節，但實際上，一位現場開發 AI 的專家因認為「這是以人類生命為賭注的賭博」而離開了業界。

2026 年 9 月 9 日，曾在被譽為人工智慧產業兩大支柱的 Anthropic 和 OpenAI 擔任核心研究員的 27 歲 Jacob Coxon 突然宣佈辭職。他不僅是更換公司，更宣稱要離開 AI 產業本身，此舉震撼了整個業界 出處 1, 出處 13。

為什麼這很重要？

這起事件顯示，即使是在引領 AI 技術的企業內部，對「開發速度」也出現了嚴重的懷疑論。Coxon 指出，OpenAI 和 Anthropic 的行為是不負責任的，企業為了競逐自我進化的超智慧，正以人類的生命作為賭注進行賭博 出處 2, 出處 17。

在 AI 技術迅速滲透我們日常生活的當下，內部專家的這種警告正觸發社會對於技術安全性和倫理責任的討論 出處 7。這不僅僅是技術性的爭論，更對我們是否正以可承擔的速度推動技術發展，拋出了根本性的疑問。

簡單易懂：超智慧的秘密

Coxon 所警告的「自我進化超智慧 (Self-improving superintelligence)」是什麼？簡單來說，就是 AI 進入了一種能夠自行規劃並執行繪製出「讓自己變得更優秀的 AI」之設計圖的狀態。

我們用「料理」來比喻。至今為止的 AI 開發，是人類廚師研究食譜後推出新菜色的過程。但「自我進化超智慧」就像是 AI 進入廚房後，不需要人類的協助，自行尋找新的食材、改良風味，甚至試圖在沒有廚師的情況下營運餐廳。

問題在於，當這套 AI 以人類無法理解的方式變更料理方式時，可能會發生我們無法控制的情況 出處 2。也就是說，我們所製作的料理有走向失控或變質的風險。

現況

Jacob Coxon 過去三年在 OpenAI 和 Anthropic 這兩大最前線，進行了為模型奠定基礎的「預訓練 (Pretraining，透過大規模數據學習，打造 AI 基礎模型的過程)」研究 出處 1, 出處 12。

據部分報導指出，他在內部目睹了同事們使用「結局 (Endgame)」或「衝刺期 (Crunchtime)」等用語，拼命完成技術開發的景象 出處 3。目前，包括 Anthropic 在內的主要企業，為了不在超智慧競賽中落後而持續開發，而 Coxon 警告稱，這個過程極有可能陷入失控狀態 出處 9。

未來會如何？

專家分析認為，Coxon 的這次辭職可能會對 Anthropic 的品牌價值或資本市場的信任度造成影響 出處 6。如果未來 AI 技術的安全性問題無法解決，只是一味地競逐速度，預計將會面臨政府層面強力監管的引入，或是社會對轉向安全優先企業文化的強烈要求。這就像是在試圖為一台沒有煞車、奔馳中的汽車繫上安全帶。

MindTickleBytes AI 記者的觀點

我們正面臨一個根本性的提問：技術的進步究竟是為了輔助人類，還是要超越人類？Coxon 的辭職超越了個人選擇，是人工智慧已不僅止於技術創新，更進入了需要社會共識階段的信號彈。如果我們夢想著更美好的未來，現在正是比起速度，更需要思考方向的智慧時刻。

參考資料

1. Anthropic Researcher Resigns: Jacob Coxon on the Race (Sept 9, 2026) https://www.explainx.ai/blog/anthropic-researcher-jacob-coxon-resigns-ai-safety-2026
2. Jacob Coxon on X: “I resigned from Anthropic today.” https://x.com/hilbertspaess/status/2097476196791709843
3. Anthropic Researcher Coxon Resigns, Warns of AI ‘Endgame’ https://aiweekly.co/alerts/anthropic-researcher-coxon-resigns-warns-of-ai-endgame
4. Anthropic Core Researcher Jacob Coxon Suddenly Resigns https://www.tradingkey.com/analysis/stocks/us-stocks/262157177-stock-ai-anthropic-ipo-jacob-coxon-openai-tradingkey
5. Jacob Coxon resignation, Anthropic researcher quits over irresponsible AI use https://dailypioneer.com/news/anthropic-researcher-jacob-coxon-quits-over-irresponsible-ai-use
6. ‘It could kill us all’: Why a 27-year-old researcher quit Anthropic https://indianexpress.com/article/trending/trending-in-india/jacob-coxon-anthropic-resignation-ai-superintelligence-warning-10869438/
7. AI మనందరినీ చంపేయొచ్చు.. Anthropicలో పనిచేసిన AI రీసెర్చర్… https://telugu.goodreturns.in/news/ai-could-become-uncontrollable-anthropic-researcher-drops-bombshell-after-resigning-057603.html
8. ‘I resigned from Anthropic’: Key researcher drops existential AI risk warning https://www.financialexpress.com/world-news/us-news/i-resigned-from-anthropic-key-researcher-drops-existential-ai-risk-warning-in-exit-post/4335040/
9. Anthropic researcher quits, warns AI could kill everyone https://www.yahoo.com/news/science/articles/anthropic-researcher-quits-warns-ai-064033707.html
10. Jacob Coxon alleged that the tech firm is ‘gambling with our lives’ https://www.ladbible.com/technology/ai-anthropic-researcher-resigns-jacob-coxon-warning-future-tech-712829-20260909