我的電腦能直接運行 AI？Hetzner 的全新 AI 實驗究竟是什麼？

想像一下，您所使用的 AI 服務其實像是一個巨大工廠中的零件般運作，會是什麼樣子？當我們向「ChatGPT」之類的 AI 提問時，遠端某處的數據中心會接收問題、進行複雜計算，再將答案回傳給我們。然而，歐洲知名數據中心企業 Hetzner 最近開始了一項「實驗」，預告了這個流程即將出現新變化。這究竟會有什麼改變呢？

這為什麼很重要？

對於日常使用 AI 的大眾來說，這個消息可能當下感覺不到太大變化。但對於開發者或新創公司從業人員而言，這是一個令人振奮的消息。Hetzner 目前正提供免費的實驗性 AI 推論 API (Inference API)，這就像是免費發放一個讓任何人都能輕鬆將 AI 功能嵌入自己服務中的「工具箱」。

「API」這個詞聽起來很陌生嗎？簡單來說，就像我們用外送 App 點餐時，App 在餐廳與我們之間建立連結一樣，API 是一項讓開發者能輕鬆調用 AI 技術的橋樑。

特別是對於剛起步的早期新創公司而言，環境的成本效益與 AI 模型的高效運作至關重要。Hetzner 的推論服務有望為這些企業打開大門，讓他們能以低成本利用高效能模型。

淺顯易懂：如何借用 AI 的「學習成果」？

「推論 (Inference)」這個詞聽起來很難嗎？打個比方，如果人工智慧將圖書館裡的書全部背下來的過程稱為「學習」，那麼當我們提出問題，AI 根據這些知識找出答案的過程，就稱為「推論」。

Hetzner 正利用其擁有的歐洲數據中心基礎設施，開始提供這項代為處理「推論」過程的服務。使用者只需在 Hetzner 實驗平台 (Experiments dashboard) 取得 API 金鑰，就能像使用 OpenAI 的服務一樣，以非常熟悉的方將 AI 模型連接到自己的程式中。因為該服務直接支援標準 OpenAI SDK 與通用的 Web 通訊規範 (REST API)。

就像挑選智慧型手機照片 App 的濾鏡一樣，只要將 Hetzner 準備好的高效能 AI 模型之一（如「Qwen3.6-35B」）套用到自己的服務中即可。無需複雜的安裝，就能聘請專家級的 AI 擔任 App 的私人助理。

現況：目前仍處於「實驗室」階段

不過，有幾點需要注意。Hetzner 已清楚表明此服務目前仍處於實驗狀態。

• 無正式收費政策： 目前提供免費試用，但尚不清楚免費期限，未來是否會轉為正式服務也未知。
• 缺乏服務品質保證 (SLA)： 由於沒有企業可安心使用的「服務品質保證 (SLA)」，目前將其應用在重要的商業系統中仍有風險。「SLA」是一種保證服務不中斷且穩定運行的承諾，而現在這只是一個無此承諾的自由實驗階段。目前提供的模型也相當有限（僅有 Qwen3.6-35B-A3B-FP8）。

儘管如此，其效能令人驚艷。根據非官方測試，從提問到產生第一個字只需約 0.15 秒（153ms），且生成速度高達每秒 224 個單字。這歸功於親自營運數據中心的 Hetzner，其基礎設施具有極高的效率。

未來會如何發展？

Hetzner 正透過這項服務測試市場需求，以及其數據中心處理 AI 工作負載的穩定性。

若未來 Hetzner 順利完成實驗，並擴充更多模型或正式上線，許多受困於高額成本的開發者將能更自由地利用 AI 技術。最重要的是，作為一家重視數據主權的歐洲企業，Hetzner 提供了一種既能親自管理數據，又能使用強大 AI 功能的替代方案，這點值得持續關注。

MindTickleBytes AI 記者的觀點

與技術本身相比，Hetzner 的這次嘗試在「基礎設施民主化」方面更引人入勝。這是傳統基礎設施企業開始正式分享 AI 處理能力的訊號，而過去這種能力是由大型 IT 巨頭所壟斷的。這或許會帶來改變，就如同並非由大型電力公司，而是社區裡的電器技師找到了能讓家中電器運作更高效的方法一般。

參考資料

1. [HetznerInference: the new AIAPIserving…

   EMIT Solution](https://emit-solution.com/en/blog/hetzner-ai-inference-api)

2. [HetznerLaunches FreeExperimentalOpenAI-Compatible LLM…

   AITodayBrief](https://aitodaybrief.com/en/news/tools-and-releases/hetzner-launches-free-experimental-openai-compatible-llm-inference-api)

3. [[Feature]: Hi Teknium/Nous, please add support forHetznerAI…

   GitHub Issues](https://github.com/NousResearch/hermes-agent/issues/73423)

4. [The frontier labs are building a productHetznerwill sell like bandwidth

   LinkedIn](https://www.linkedin.com/pulse/frontier-labs-building-product-hetzner-sell-like-bandwidth-ben-luong-1mjtc)

5. [Hetzner Inference: First Look

   Sliplane Blog](https://sliplane.io/blog/hetzner-inference)

6. [Hetzner now hosts OpenClaw: free AI assistant instances as an experiment

   EMIT Solution](https://emit-solution.com/en/blog/hetzner-hosted-openclaw-experiment)

7. [Hetzner Enters LLM Inference: What It Means for SaaS Builders in 2026

   Devs & Logics Blog](https://devsandlogics.com/blog/hetzner-is-working-on-llm-inference)

8. Inference API - Hetzner Docs
9. Experiments Platform - Overview - Hetzner Docs

10. [Hetzner is quietly testing free OpenAI-compatible inference.

    MindPattern AI](https://mindpattern.ai/s/2026-07-24-hetzner-is-quietly-testing-free-openai-compatible-inference)

11. [Hetzner Tests LLM Inference with Qwen on Its Own …

    Zeli App](https://zeli.app/en/story/49033087)

12. [Hetzner Inference: First Look

    Jonas Scholz - LinkedIn](https://www.linkedin.com/posts/jonas-scholz-490274163_hetzner-inference-first-look-activity-7486346679424593922-htYe)

13. [Hetzner testet LLM-Inference-API mit Qwen3-Modell und 262K …

    Lumeric](https://www.lumeric.app/post/02b73ec9-f9f8-4572-aa06-e79935340a86)