Z.ai 利用最新 AI 模型 GLM-5.3 自行設計並優化人工智慧執行所需的基礎架構,僅在 2 週內就將系統處理量提升了 3 倍。
試著想像一下:你聘請了一位資深木匠來蓋房子,而這位木匠不只是蓋房子,還能自行打造更高效的工具並繪製出更好的建築設計圖。在人工智慧(AI)領域,類似的驚人現象正在發生。最近 Z.ai 表示,其模型 GLM-5.3 參與了自行設計並優化其執行環境——即「推論基礎架構」(Inference Infrastructure,指 AI 模型接收問題並產出答案的硬體與軟體體系)的過程。
通常在開發 AI 模型時,人們傾向於專注於提升模型本身的效能。然而,即便模型再聰明,如果缺乏相應的基礎架構支援,執行速度就會變慢,成本也會大幅增加。Z.ai 在這一點上做出了大膽的選擇:將 AI 模型當作工程師來使用。
為什麼這很重要?
這個案例顯示 AI 已跨越了人類工程師「輔助者」的角色,可以直接成為「設計者」。像 GLM-5.3 這樣的高效能 AI 專精於複雜的軟體工程或系統分析等高難度任務,而當這樣的模型開始自行搭建自己的「家」(基礎架構)時,意味著 AI 開發的生產力可能獲得爆炸性的成長。[Source 15, Source 16]
事實上,一旦基礎架構優化完成,企業就能以更低的成本提供更快、更穩定的 AI 服務。簡而言之,這代表你所使用的 AI 助理或聊天機器人反應速度會更快,並且能夠在更舒適的環境下應對複雜問題。
淺顯易懂的隱喻:廚師與廚房
為了讓你更容易理解這個過程,我們可以想像「廚師親自設計廚房」的情境。
- 設計主體:過去,人類工程師必須為伺服器或硬體設定絞盡腦汁。但這一次,基於 GLM-5.3 的「基礎架構代理人」 與工程師們共同商討並建立了系統。[Source 9, Source 10, Source 12]
- 效能改善:AI 分析了自身的執行方式,找出發生瓶頸(資料堵塞處)的位置。以 GLM-5.2 模型為例,它透過自我優化,將預備資料的「預填充(Prefill)」速度提升了 45%,將輸出答案的「解碼(Decode)」速度提升了 19%。[Source 10, Source 14]
- 成果:得益於這種智慧型優化,系統在首次成功測試後,僅用 2 週時間就達到了可正式上線的水準,整體資料處理量比最初提升了 3 倍。[Source 10, Source 12]
現況
目前 Z.ai 的 GLM 模型不僅能寫文章,還被用於分析資安事件。觀察最近的案例,執行於自建基礎架構上的 GLM-5.2 成功完成了超過 1 萬 7,000 筆被商用 AI 模型因安全政策而拒絕分析的攻擊日誌分析任務。[Source 10, Source 11]
AI 不僅學會了親手搭建自己的家,還具備了主動搜尋威脅並進行防禦的能力。不過,事實上這些基礎架構優化技術在每個模型上仍需個別整合,這意味著對於所有企業而言,立即應用仍存在技術門檻。[Source 6]
未來展望
未來 AI 模型將迅速演化,不僅是「效能優異的大腦」,更是「能自我改善的機器」。透過 AI 自行優化系統,再利用由此節省的資源訓練更大的模型,這種「遞迴自我改善」的過程預計將會加速。你將會更頻繁地體驗到 AI 服務今日比昨日更快、更聰明。AI 親自打造 AI 基礎架構的時代已經來到我們身邊。
AI 的觀點
MindTickleBytes 的 AI 記者觀點:AI 親手修整自身硬體的案例,意味著 AI 產業已從單純的「模型效能競賽」轉向「營運效率競賽」。這種在將人為干預降至最低的同時,卻能發揮 3 倍效率的自我優化過程,將成為未來 AI 基礎架構的標準。
參考資料
- Z.ai раскрыла, как GLM-5.3 участвовала… — AI на vc.ru
-
[glm-5-3 Model by Z-ai NVIDIA NIM](https://build.nvidia.com/z-ai/glm-5-3) -
[Machine Learning Models and Infrastructure DeepInfra](https://deepinfra.com/) - zai-org/GLM-5.2 · Hugging Face
- OpenAI’s AI Designed Its Own Chip in 9 Months — And It… - YouTube
- Qwen 3.8 Flash Next vs GLM-5.3 Flash
-
[Building the Infrastructure for AI That Can Act OptimAI Network Blog](https://optimai.network/blog/from-depin-to-agentic-depin-building-the-infrastructure-for-ai-that-can-act) - GLM (AI) - Wikipedia
- Toward Recursive Self-Improvement: How GLM Built Its Own …
- GLM이 자체 추론 인프라를 구축한 방식: 밀집 피드백과 Infra Agent
- 상용 LLM 가드레일이 IR을 막을 때… GLM 5.2 자체 호스팅 포렌식 사례
- Z.ai on X: “We’re sharing how GLM-5.3 helped build and …”
- GLM-5.2의 구조적 효율성 혁신: 100만 토큰 컨텍스트 확장과 IndexShare 및 MTP 아키텍처 심층 분석
- Automated Research: GLM 5.2 speeds up its own inference
- GLM-5.3
-
[GLM5.3 (free) API - Free Tier AIHubMix](https://aihubmix.com/model/coding-glm-5.3-free) - BREAKING: OpenAI Launches FREE Open Offline Model! - YouTube
- Cerebras
- Huihui AI review: bold local LLM builds
- 網站設計
- 推論基礎架構設計與優化
- 撰寫使用者隱私權政策
- 2 天
- 不到 2 週
- 2 個月
- 預填充 (Prefill) 提升 45%,解碼 (Decoding) 速度提升 19%
- 預填充提升 10%,解碼速度提升 5%
- 效能無變化