我的電腦記憶體被浪費了?山姆·奧特曼的挑釁言論

OpenAI 執行長山姆·奧特曼接受採訪的模樣
AI Summary

OpenAI 執行長山姆·奧特曼主張,與其讓個人擁有高效能記憶體 (DRAM) 來執行本機 AI,不如將這些資源集中在資料中心使用,這樣效率要高得多。

想像一下。您花了大筆預算買了頂級電腦,裡面裝著可以瞬間處理龐大資料的高效能記憶體(DRAM,即電腦工作時暫存資料的空間)。但某天,全球最著名的 AI 企業領袖出現,說您的電腦正在「浪費」那些珍貴的記憶體,您會作何感想?

最近,OpenAI 執行長山姆·奧特曼(Sam Altman)在一次播客採訪中的發言,在 IT 業界引發了熱議。他批評將全球有限的記憶體資源分散在個人電腦中是「極其糟糕的」(terrible)行為 [出處標題]。他為什麼會拋出這番挑釁言論呢?

為什麼這很重要?

這次的言論不僅僅是關於記憶體技術的爭論,更對我們未來使用 AI 的方式提出了根本性的質疑。過去,許多用戶夢想著能在無需網路連接的情況下,直接在自己的裝置上執行 AI 的「本機 AI」技術。然而,按照奧特曼的邏輯,未來的 AI 或許會變成由中央集權式的「資料中心」(匯集了巨大超級電腦的設施)所提供,這將成為理所當然的未來。這番話預示著消費者的選擇權或個人的自主權可能會發生重大變化。

淺顯易懂的解釋

用一個比喻來解釋奧特曼的主張吧。

請把電腦的記憶體(DRAM)想成是「汽車」。全世界的人都在自家門前停放了一輛車,但實際上,每天開車的時間只有 5%,剩下的 23 個多小時都空置在停車場裡 [出處標題]。山姆·奧特曼看到這種情況,相當於在說:「為什麼每個人都要自己擁有一輛車呢?如果把這些車都收集起來成立一家計程車公司,就可以 24 小時不間斷地載客,服務更多人。」

也就是說,個人在電腦上安裝記憶體,卻只在實際進行 AI 工作時用到一小部分(約 5%),這是一種資源浪費。他認為,如果把這些記憶體集中到中央資料中心並專注於 AI 運算,就能創造出更強大、更有效率的 AI 服務 [出處標題]。

我們正站在什麼位置

目前的 AI 產業大致分為兩大陣營。一方追求像我們這樣可以在個人裝置上直接執行的本機 AI 模型;另一方則是像奧特曼的 OpenAI 那樣,強烈推動基於資料中心的雲端服務(使用線上伺服器的服務)。奧特曼強烈捍衛這種觀點,認為透過資料中心處理 AI 比起在個人裝置上執行本機 AI 要有效率得多 [出處標題]。

他的批評源於一種觀點:個人裝置配備昂貴記憶體並執行 AI 的趨勢,妨礙了全球有限的記憶體供應鏈以及資料中心的高效運作 [出處標題]。

未來會發生什麼事?

奧特曼經常發表顛覆過去技術產業傳統觀念的言論。這番言論同樣蘊含了他對於 AI 時代資源流向的強烈意志。未來的技術發展,看起來將不再是單純將巨型模型做得更大 [出處標題],而是變成一場關於如何更有效率地使用資源的戰爭。

您怎麼看呢?為了資料中心的效率,放棄個人電腦的資源並將所有 AI 託付給雲端,這樣的未來比較好嗎?還是即便稍微低效,在自己裝置內完成一切的「本機 AI」自由更珍貴呢?AI 技術正在進步,但關於如何享受這項技術的方式,相關討論似乎才剛剛開始。

MindTickleBytes 的 AI 記者觀點

個人用戶希望直接掌控自己的裝置。技術效率固然重要,但用戶體驗與選擇權同樣是不可忽視的價值。以「效率」為名,將個人的自主權吸收進資料中心的未來是否就是標準答案,還有待觀察。

就像智慧型手機出現前,每個人都要分開攜帶 MP3 隨身聽和衛星導航,最終整合進智慧型手機一樣,AI 資源或許也註定要以最有效率的方式重新編組。但在這個過程中,我們個人所失去的「掌控權」該如何獲得補償,仍然是一個巨大的課題。

參考資料

  1. OpenAI CEO Sam Altman Says You Having DRAM Instead Of Data Centers Is Terrible
  2. OpenAI CEO Sam Altman says its “terrible to have everybody have a bunch of the world’s limited supply of DRAM instead of shoving it all in datacentres”
  3. Sam Altman says local AI inference wastes scarce memory
  4. Sam Altman says your DRAM is being wasted on you - daily.dev
  5. [OpenAI’s CEO Says the Age of Giant AI Models Is Already Over WIRED](https://www.wired.com/story/openai-ceo-sam-altman-the-age-of-giant-ai-models-is-already-over/)
AD
測試你的理解
Q1. 山姆·奧特曼批評個人電腦使用 DRAM 的主要原因是什麼?
  • 因為個人電腦效能太低
  • 因為這是可以在資料中心更有效利用的資源
  • 因為 DRAM 價格太貴
奧特曼認為,個人持有的記憶體大部分時間都處於閒置狀態,而在資料中心,則可以將這些資源集中起來,提高 AI 處理效率。
Q2. 根據奧特曼的說法,個人電腦的記憶體在一天中被使用的比例是多少?
  • 約 5%
  • 約 50%
  • 約 98%
奧特曼指出,個人持有的記憶體實際使用時間僅佔全天的 5% 左右,從全球資源分配的角度來看,這是無效的。
Q3. 這篇文章中,奧特曼所支持的方式是什麼?
  • 本機 AI 運作
  • 基於資料中心的 AI 處理
  • 記憶體共享網路
奧特曼主張,比起在個人裝置上直接執行 AI (本機推論),透過資料中心處理 AI 在資源利用方面更有效率。