當 AI 給出答案的瞬間,真的會賺錢嗎?揭開「AI 推論獲利能力」的真相

以華麗圖形呈現的數據中心,以及上方浮現出獲利走勢圖的抽象影像
AI Summary

關於 AI 推論是高利潤獲利模式的說法,與因龐大營運成本而難以擺脫虧損的分析,目前正處於激烈的拉鋸戰中。

當我們對每天使用的聊天機器人說出「幫我推薦今天的午餐菜單」時,AI 會在腦海中那座龐大的數據迷宮裡徘徊,找出最合適的答案。這個過程在技術上被稱為推論 (Inference,指 AI 模型在完成學習後,實際處理數據並導出結果的階段)

近期,業界對於這種「推論」的獲利能力展開了激烈的論戰。有人疾呼「AI 推論當然是會賺錢的事業」,但另一派則反駁稱「那是一個巨大的謊言」。究竟哪一方正確?今天我們就來輕鬆解析深入我們生活的 AI 經濟學。

為什麼這場爭論很重要?

我們日常生活中感受到的 AI 服務品質,最終取決於推論過程。之所以要判斷我們詢問並取得回答的這些服務是否具備永續性,還是僅為泡沫,其基準就在於這項「推論獲利能力」。

簡單來說,不賺錢的服務最終只能面臨消失,或是使用費暴漲的命運。相反地,如果推論真的是一門高獲利的生意,那麼 AI 產業就具備了比我們想像中還要穩固的基礎體質。掌握 AI 推論的經濟現況,等於是衡量我們未來將如何與 AI 共存的重要標尺。

輕鬆理解:「學校學習」與「實戰工作」

為了更輕易理解 AI 的運作原理,我們將其比喻為學生的「學習」與「就業」。

  • 訓練 (Training): 指模型閱讀龐大數據並進行學習的過程。這需要耗費巨額時間與成本,但一旦畢業,就具備了基礎知識。
  • 推論 (Inference): 指畢業後的 AI 在現場進行實際業務的過程。這是回應使用者提問並解決問題的階段。 Source 9

我們通常很容易只想到開發 AI 的費用 (訓練),但真正的商業模式,其實發生在這個模型每天回應使用者提問的「推論」階段。 Source 6

部分分析師主張這個過程效率極高。他們認為,模型在處理輸入並產出結果的過程中,可以創下極高的毛利率 (70~80%)。 Source 1 這就像是聘僱具備實務能力的員工來工作,往往比將新人從零到有進行教育訓練的成本低廉許多的邏輯一樣。

現狀:玫瑰色願景 vs 滿是赤字

然而,現實並非如此簡單。 AI 推論獲利能力的爭論 目前大致分為兩大立場,呈現僵持狀態。

  • 獲利贊成論: 「AI 推論當然會賺錢。」他們主張推論所需的計算成本正持續優化中,且模型產出的結果具備高價值。特別是隨著 無伺服器 (Serverless) 等雲端環境日趨成熟,減少不必要成本的技術也在快速發展。
  • 獲利懷疑論: 「這是一個巨大的謊言。」他們引用 OpenAI 等巨型模型企業至今仍記錄著數兆元營運虧損的事實作為根據。 Source 15 事實上,投入推論的計算資源成本 (例如 OpenAI 的情況,估計 2025 年為約 40 億美元) 比我們想像中更為龐大。 Source 17

可以確定的是,訓練與推論是截然不同的任務Source 12 如果訓練是為了未來而進行的巨大投資,那麼推論就是每天、每個月都在流失的「營運費」。如何降低這項成本,已成為企業生存戰的關鍵。

未來會如何發展?

慶幸的是,技術發展速度非常快。近期業界陸續傳出大幅降低推論成本的案例。 Source 7 此外,d-Matrix 等企業正在開發推論專用加速器,AI 推論效率化技術正不斷加速。

試著想像一下。AI 正在變得越來越聰明,同時也在創造出能以更少電力與資源就給出聰明回答的環境。未來,AI 服務將會變得比現在更便宜、更快速。如今的巨額赤字是否會轉化為未來的獲利能力,或是因無法找到永續的商業模式而被淘汰,全取決於「推論成本能壓得多低」這項技術效率。

MindTickleBytes 的 AI 記者觀點

關於 AI 推論獲利能力的爭論,彷彿讓人看見 2000 年代初期網際網路企業剛崛起時的景象。因為服務顯得過於理所當然且便利,容易讓人遺忘其背後隱藏的巨大成本,但市場總是在追求效率的過程中不斷進化。今天您所詢問的 AI 回答,究竟創造了多少價值呢?尋找這個答案的過程,正是我們目前所見證的「AI 經濟」實體。

參考資料

  1. AI inference is obviously profitable
  2. “AIInferenceisProfitable” is a Gigantic Lie
  3. [Vue HN 2.0 AIinferenceisobviouslyprofitable](https://vue-hackernews-ssr-5cavbdjcta-ew.a.run.app/item/48780033)
  4. AI-NativeInferenceCloud Powered by NVIDIA — GMI Cloud
  5. d-Matrix Raises $275 Million to Power the Age ofAIInference
  6. My Honest & Sober Opinion onAI
  7. 20VC’s Harry Stebbings reports five founders claim they cutAI…
  8. AI101: A Guide to the Differences Between Training andInference
  9. [What isAIinferenceand how does it work? Gcore](https://gcore.com/learning/what-is-ai-inference/)
  10. AIinferenceiswhere data becomes insight. It’s not just about models…
  11. scaleway.com/en/blog/why-cpus-also-make-sense-for-ai-inference
  12. AI inference is obviously profitable - daily.dev
  13. The Rise Of The AI Inference Economy - Forbes
  14. AI’s Billion-Dollar Lie: Is inference really profitable?
  15. Is AI Inference a Money Pit or a Profit Machine?
  16. Can AI companies become profitable?
  17. ChatGPT-5 and the Shift to Inference: The Next AI Profit Cycle
測試你的理解
Q1. 什麼是 AI 的「推論 (Inference)」?
  • AI 模型學習數據的過程
  • 已完成學習的模型接收新數據並做出預測或決定的階段
  • AI 模型從零開始建構的初期階段
模型完成學習 (Training) 後,實際轉換為「執行 (doing)」模式並為使用者提供回答的階段,稱為推論。
Q2. 目前業界對於 AI 推論獲利能力的看法為何?
  • 所有企業都能確保獲利
  • 由於龐大的營運成本,獲利能力極低
  • 主張高利潤的一方與指出巨額虧損的一方,意見呈現兩極化
儘管部分觀點主張擁有 70% 至 80% 的高毛利率,但同時也有分析指出企業正遭受數十億美元規模的營運損失。
Q3. AI 業界目前為了降低「推論」成本,正在採取哪些努力?
  • 全面停止推論,僅強化學習
  • 導入推論專用加速器並嘗試降低營運成本
  • 將所有推論工作交由人類親自執行
像是 d-Matrix 等企業正開發推論專用加速器,且近期已有企業成功降低推論成本的案例,成本效率化已成為核心課題。