關於 AI 推論是高利潤獲利模式的說法,與因龐大營運成本而難以擺脫虧損的分析,目前正處於激烈的拉鋸戰中。
當我們對每天使用的聊天機器人說出「幫我推薦今天的午餐菜單」時,AI 會在腦海中那座龐大的數據迷宮裡徘徊,找出最合適的答案。這個過程在技術上被稱為推論 (Inference,指 AI 模型在完成學習後,實際處理數據並導出結果的階段)。
近期,業界對於這種「推論」的獲利能力展開了激烈的論戰。有人疾呼「AI 推論當然是會賺錢的事業」,但另一派則反駁稱「那是一個巨大的謊言」。究竟哪一方正確?今天我們就來輕鬆解析深入我們生活的 AI 經濟學。
為什麼這場爭論很重要?
我們日常生活中感受到的 AI 服務品質,最終取決於推論過程。之所以要判斷我們詢問並取得回答的這些服務是否具備永續性,還是僅為泡沫,其基準就在於這項「推論獲利能力」。
簡單來說,不賺錢的服務最終只能面臨消失,或是使用費暴漲的命運。相反地,如果推論真的是一門高獲利的生意,那麼 AI 產業就具備了比我們想像中還要穩固的基礎體質。掌握 AI 推論的經濟現況,等於是衡量我們未來將如何與 AI 共存的重要標尺。
輕鬆理解:「學校學習」與「實戰工作」
為了更輕易理解 AI 的運作原理,我們將其比喻為學生的「學習」與「就業」。
- 訓練 (Training): 指模型閱讀龐大數據並進行學習的過程。這需要耗費巨額時間與成本,但一旦畢業,就具備了基礎知識。
- 推論 (Inference): 指畢業後的 AI 在現場進行實際業務的過程。這是回應使用者提問並解決問題的階段。 Source 9
我們通常很容易只想到開發 AI 的費用 (訓練),但真正的商業模式,其實發生在這個模型每天回應使用者提問的「推論」階段。 Source 6
部分分析師主張這個過程效率極高。他們認為,模型在處理輸入並產出結果的過程中,可以創下極高的毛利率 (70~80%)。 Source 1 這就像是聘僱具備實務能力的員工來工作,往往比將新人從零到有進行教育訓練的成本低廉許多的邏輯一樣。
現狀:玫瑰色願景 vs 滿是赤字
然而,現實並非如此簡單。 AI 推論獲利能力的爭論 目前大致分為兩大立場,呈現僵持狀態。
- 獲利贊成論: 「AI 推論當然會賺錢。」他們主張推論所需的計算成本正持續優化中,且模型產出的結果具備高價值。特別是隨著 無伺服器 (Serverless) 等雲端環境日趨成熟,減少不必要成本的技術也在快速發展。
- 獲利懷疑論: 「這是一個巨大的謊言。」他們引用 OpenAI 等巨型模型企業至今仍記錄著數兆元營運虧損的事實作為根據。 Source 15 事實上,投入推論的計算資源成本 (例如 OpenAI 的情況,估計 2025 年為約 40 億美元) 比我們想像中更為龐大。 Source 17
可以確定的是,訓練與推論是截然不同的任務。 Source 12 如果訓練是為了未來而進行的巨大投資,那麼推論就是每天、每個月都在流失的「營運費」。如何降低這項成本,已成為企業生存戰的關鍵。
未來會如何發展?
慶幸的是,技術發展速度非常快。近期業界陸續傳出大幅降低推論成本的案例。 Source 7 此外,d-Matrix 等企業正在開發推論專用加速器,AI 推論效率化技術正不斷加速。
試著想像一下。AI 正在變得越來越聰明,同時也在創造出能以更少電力與資源就給出聰明回答的環境。未來,AI 服務將會變得比現在更便宜、更快速。如今的巨額赤字是否會轉化為未來的獲利能力,或是因無法找到永續的商業模式而被淘汰,全取決於「推論成本能壓得多低」這項技術效率。
MindTickleBytes 的 AI 記者觀點
關於 AI 推論獲利能力的爭論,彷彿讓人看見 2000 年代初期網際網路企業剛崛起時的景象。因為服務顯得過於理所當然且便利,容易讓人遺忘其背後隱藏的巨大成本,但市場總是在追求效率的過程中不斷進化。今天您所詢問的 AI 回答,究竟創造了多少價值呢?尋找這個答案的過程,正是我們目前所見證的「AI 經濟」實體。
參考資料
- AI inference is obviously profitable
- “AIInferenceisProfitable” is a Gigantic Lie
-
[Vue HN 2.0 AIinferenceisobviouslyprofitable](https://vue-hackernews-ssr-5cavbdjcta-ew.a.run.app/item/48780033) - AI-NativeInferenceCloud Powered by NVIDIA — GMI Cloud
- d-Matrix Raises $275 Million to Power the Age ofAIInference
- My Honest & Sober Opinion onAI
- 20VC’s Harry Stebbings reports five founders claim they cutAI…
- AI101: A Guide to the Differences Between Training andInference
-
[What isAIinferenceand how does it work? Gcore](https://gcore.com/learning/what-is-ai-inference/) - AIinferenceiswhere data becomes insight. It’s not just about models…
- scaleway.com/en/blog/why-cpus-also-make-sense-for-ai-inference
- AI inference is obviously profitable - daily.dev
- The Rise Of The AI Inference Economy - Forbes
- AI’s Billion-Dollar Lie: Is inference really profitable?
- Is AI Inference a Money Pit or a Profit Machine?
- Can AI companies become profitable?
- ChatGPT-5 and the Shift to Inference: The Next AI Profit Cycle
- AI 模型學習數據的過程
- 已完成學習的模型接收新數據並做出預測或決定的階段
- AI 模型從零開始建構的初期階段
- 所有企業都能確保獲利
- 由於龐大的營運成本,獲利能力極低
- 主張高利潤的一方與指出巨額虧損的一方,意見呈現兩極化
- 全面停止推論,僅強化學習
- 導入推論專用加速器並嘗試降低營運成本
- 將所有推論工作交由人類親自執行