超過 10 億用戶的對話，AI 保存在哪裡？：OpenAI 的秘密儲存庫「Habitat」故事

各位，您是否每天早上都會詢問 ChatGPT 近況，或是請它協助整理工作資料呢？但您有沒有想像過，我們之間進行的這些無數對話與設定值，究竟被保存在哪裡？又是如何安全地儲存的呢？

全球有超過 10 億名用戶正在與 ChatGPT 溝通。出處 5 單純計算即可知，每秒鐘都有難以想像的龐大資料量湧入。為了完美處理這些資料，OpenAI 不僅僅是租用現有的雲端服務，更建立了自己的獨家儲存基礎建設，這就是名為「Habitat」的系統。出處 11

為何這如此重要？

對 AI 服務而言，與其智慧程度同等重要的，就是「速度」與「穩定性」。當我們提出問題時，之所以能在 1 秒內得到流暢的回覆，是因為人工智慧能在瞬間找出符合該問題的您的過往對話與設定。

如果這項儲存技術無法負荷 10 億人的請求，會發生什麼事呢？AI 可能會忘記與您的過往對話，登入會持續延遲，好不容易儲存的設定也可能一再重置。也就是說，Habitat 就像是讓 10 億名用戶享受流暢 AI 體驗的「隱形數位血管」。出處 3

淺顯易懂的說明：巨大的圖書館系統

若要用最簡單的方式比喻 Habitat，它就像是全球共用的巨大圖書館中的「超高速資訊分類系統」。

1. 初期樣貌：當圖書館規模尚小時，一個用 Python（易於學習的程式語言）製作的簡單圖書整理檔案就足夠了。但當用戶增加到全球 10 億人時，這種方式很快就遇到了瓶頸。
2. 進化樣貌：OpenAI 將這個整理系統進化為「全球分佈式圖書管理系統」。出處 12 就好像在全球各地設立了相同的圖書館分館，無論用戶身在哪個國家，都能在離自己最近的分館立即取出資訊。
3. 特殊過濾器：在這個圖書館中，有一個名為「Valkey」的超高速快取（將常用資訊預先提取出來的臨時儲存庫），協助資訊能以更快速度傳遞。出處 3

現況

目前 Habitat 正在執行規模極其龐大的任務。它在全球約 40 個地區，毫無遺漏地處理每週超過 10 億人的請求。出處 3 具體而言，它每秒處理超過 7,000 萬筆龐大資料，肩負著我們登入 ChatGPT、呼叫對話內容等所有過程的責任。出處 3, 出處 11

此內容由 OpenAI 工程師 Jon Lee、Chaomin Yu 與 Ben Ries 於 2026 年 9 月 11 日公開的技術部落格中首次詳細揭露。出處 2, 出處 7

未來展望

試想一下，現在我們僅僅透過文字對話，但未來我們將與 AI 一起觀看 3D 影像、共同完成複雜的程式編寫，進行更深入、更緊密的溝通。顯而易見，AI 用戶數未來仍會持續爆炸性成長。出處 6 OpenAI 看來將會以現有的 Habitat 架構為基礎，持續提升儲存基礎建設的性能，以更有效率地管理資料，並在更多用戶同時連線時也能提供零延遲的服務。當我們與 AI 的交流越深，這個名為 Habitat 的系統也將變得越聰明、越龐大。

MindTickleBytes 的 AI 記者視角

在我們每天使用的「聊天機器人」背後，隱藏著如同巨大冰山般複雜且精密的基礎建設。Habitat 是一個絕佳的案例，展示了除了人工智慧本身的性能之外，將該能力穩定傳遞給使用者的「基礎建設技術」為何如此重要。

參考資料

1. [OpenAI Habitat: Scaling Storage for 1B ChatGPT Users

   Oflight Inc.](https://www.oflight.co.jp/en/columns/openai-habitat-storage-platform-python-rust-2026)

2. Rapidly scaling online storage to serve over 1 billion ChatGPT users
3. OpenAI explains its proprietary storage system ‘Habitat’… - GIGAZINE
4. Rapidly Scaling Online Storage To Serve Over 1 Billion ChatGPT…
5. How OpenAI Powers Storage for 1 Billion Users - The 2-Engineer…
6. 11 сентября 2026 года OpenAI опубликовала инженерный пост…
7. Rapidly scaling online storage to serve over 1 billion ChatGPT users