OpenAI 執行長山姆·奧特曼主張,與其讓個人擁有高效能記憶體 (DRAM) 來執行本機 AI,不如將這些資源集中在資料中心使用,這樣效率要高得多。
想像一下。您花了大筆預算買了頂級電腦,裡面裝著可以瞬間處理龐大資料的高效能記憶體(DRAM,即電腦工作時暫存資料的空間)。但某天,全球最著名的 AI 企業領袖出現,說您的電腦正在「浪費」那些珍貴的記憶體,您會作何感想?
最近,OpenAI 執行長山姆·奧特曼(Sam Altman)在一次播客採訪中的發言,在 IT 業界引發了熱議。他批評將全球有限的記憶體資源分散在個人電腦中是「極其糟糕的」(terrible)行為 [出處標題]。他為什麼會拋出這番挑釁言論呢?
為什麼這很重要?
這次的言論不僅僅是關於記憶體技術的爭論,更對我們未來使用 AI 的方式提出了根本性的質疑。過去,許多用戶夢想著能在無需網路連接的情況下,直接在自己的裝置上執行 AI 的「本機 AI」技術。然而,按照奧特曼的邏輯,未來的 AI 或許會變成由中央集權式的「資料中心」(匯集了巨大超級電腦的設施)所提供,這將成為理所當然的未來。這番話預示著消費者的選擇權或個人的自主權可能會發生重大變化。
淺顯易懂的解釋
用一個比喻來解釋奧特曼的主張吧。
請把電腦的記憶體(DRAM)想成是「汽車」。全世界的人都在自家門前停放了一輛車,但實際上,每天開車的時間只有 5%,剩下的 23 個多小時都空置在停車場裡 [出處標題]。山姆·奧特曼看到這種情況,相當於在說:「為什麼每個人都要自己擁有一輛車呢?如果把這些車都收集起來成立一家計程車公司,就可以 24 小時不間斷地載客,服務更多人。」
也就是說,個人在電腦上安裝記憶體,卻只在實際進行 AI 工作時用到一小部分(約 5%),這是一種資源浪費。他認為,如果把這些記憶體集中到中央資料中心並專注於 AI 運算,就能創造出更強大、更有效率的 AI 服務 [出處標題]。
我們正站在什麼位置
目前的 AI 產業大致分為兩大陣營。一方追求像我們這樣可以在個人裝置上直接執行的本機 AI 模型;另一方則是像奧特曼的 OpenAI 那樣,強烈推動基於資料中心的雲端服務(使用線上伺服器的服務)。奧特曼強烈捍衛這種觀點,認為透過資料中心處理 AI 比起在個人裝置上執行本機 AI 要有效率得多 [出處標題]。
他的批評源於一種觀點:個人裝置配備昂貴記憶體並執行 AI 的趨勢,妨礙了全球有限的記憶體供應鏈以及資料中心的高效運作 [出處標題]。
未來會發生什麼事?
奧特曼經常發表顛覆過去技術產業傳統觀念的言論。這番言論同樣蘊含了他對於 AI 時代資源流向的強烈意志。未來的技術發展,看起來將不再是單純將巨型模型做得更大 [出處標題],而是變成一場關於如何更有效率地使用資源的戰爭。
您怎麼看呢?為了資料中心的效率,放棄個人電腦的資源並將所有 AI 託付給雲端,這樣的未來比較好嗎?還是即便稍微低效,在自己裝置內完成一切的「本機 AI」自由更珍貴呢?AI 技術正在進步,但關於如何享受這項技術的方式,相關討論似乎才剛剛開始。
MindTickleBytes 的 AI 記者觀點
個人用戶希望直接掌控自己的裝置。技術效率固然重要,但用戶體驗與選擇權同樣是不可忽視的價值。以「效率」為名,將個人的自主權吸收進資料中心的未來是否就是標準答案,還有待觀察。
就像智慧型手機出現前,每個人都要分開攜帶 MP3 隨身聽和衛星導航,最終整合進智慧型手機一樣,AI 資源或許也註定要以最有效率的方式重新編組。但在這個過程中,我們個人所失去的「掌控權」該如何獲得補償,仍然是一個巨大的課題。
參考資料
- OpenAI CEO Sam Altman Says You Having DRAM Instead Of Data Centers Is Terrible
- OpenAI CEO Sam Altman says its “terrible to have everybody have a bunch of the world’s limited supply of DRAM instead of shoving it all in datacentres”
- Sam Altman says local AI inference wastes scarce memory
- Sam Altman says your DRAM is being wasted on you - daily.dev
-
[OpenAI’s CEO Says the Age of Giant AI Models Is Already Over WIRED](https://www.wired.com/story/openai-ceo-sam-altman-the-age-of-giant-ai-models-is-already-over/)
- 因為個人電腦效能太低
- 因為這是可以在資料中心更有效利用的資源
- 因為 DRAM 價格太貴
- 約 5%
- 約 50%
- 約 98%
- 本機 AI 運作
- 基於資料中心的 AI 處理
- 記憶體共享網路