Prime Intellect 將原先基於 TypeScript 的「Prime Agent」改用 Rust 重寫,在投入 2,000 多名 AI 特工的協作下,啟動速度提升了 13 倍,內存使用量減少了 83%。
想像一下,您每天都在使用的聰明 AI 助手。但是,每當它執行複雜的任務時,就像一輛老舊的汽車一樣,啟動需要很長時間,有時處理太多資訊時,電腦甚至會崩潰。隨著我們對 AI 智能的需求日益增長,包裹著其「大腦」的系統也必須變得更加敏捷與輕量。
近期,人工智能領域進行了一項非常有趣的實驗。開源編碼與研究用 AI 特工——「Prime Agent」(設計用於執行通用且長期任務的自主型 AI)全面更換了自己的骨架系統。更令人驚訝的是,為了完成這項更換工作,竟動員了超過 2,000 名 AI 特工。 Source 2, Source 4
這為什麼重要?
迄今為止,開發 AI 時主要使用易於學習且函式庫豐富的語言。然而,隨著 AI 特工不再僅限於回答單一問題,而是進入了能夠自主研究、編寫代碼,並能連續工作數天的「特工群(Agent Swarms)」時代,傳統語言的局限性開始顯現。
如果系統運行緩慢且佔用大量內存,就無法同時運行數千名 AI 特工。這次 Prime Agent 的轉變,不僅僅是「速度變快」這一技術成就,更重要的是,它讓 AI 擁有了執行更複雜、更長遠任務的「體力」。這就像是為了遇見更聰明、更獨立的 AI,必須進行的「基礎工程」。 Source 1
淺顯易懂的解釋:「高油飲食」變成了「高蛋白飲食」
每種電腦程式語言都有其獨特的個性。原本使用的 TypeScript(廣泛用於網頁開發的語言)就像是美味但稍微油膩的「速食」,而這次引進的 Rust(一種在最大化系統性能的同時,能確保穩定性的程式語言)則可以比喻為增肌用的「高蛋白飲食」。 Source 5
Rust 能非常嚴謹且細膩地管理電腦的內存。就像打包行李時將空間利用到極致的俄羅斯方塊一樣,它能優化內存。因此,不必要的內存浪費大幅減少。此外,它運作的方式更接近機器能理解的語言,因此一旦發出指令,它能立即反應而無延遲。原先用舊語言需要 5 分鐘的準備工作,在 Rust 的協助下,不到 1 分鐘即可完成,達到了高效能的境界。
現狀:13 倍的速度提升與 83% 的內存瘦身
Prime Intellect 斷然展開了將現有系統遷移至 Rust 的壯舉。在 2,000 多個 AI 特工的合作下,一行一行地遷移並優化代碼,結果表現極為驚人。 Source 2
重寫後的系統,啟動速度比以前快了 13 倍,內存使用量竟減少了 83%。這意味著在同一台硬體伺服器上,現在可以同時運行比過去多出許多的 AI 特工。 Source 2 目前,Prime Agent 正基於此性能,對沙盒(Sandbox,與外部隔離的安全虛擬測試環境)及推理基礎設施進行更嚴謹的測試。 Source 1
未來會如何?
此次案例向 AI 業界發出了強烈的訊號:「不僅是智能,系統效率才是 AI 的真正實力。」未來,預計會有更多的 AI 平台為了速度與能源效率,轉向 Rust 這類的高性能語言。 Source 4
我們不久後就能遇見更快、更便宜,且能自主處理複雜業務的 AI 特工。如果您發現電腦或智慧型手機中運行的 AI 比昨天用起來更順暢,那麼在那背後,或許就隱藏著這些由 2,000 名 AI 同僚徹夜優化的系統工程努力。
AI 記者的視角
AI 自主將其系統重寫為更高效語言這一點,令人印象深刻。工具的效率決定了智能擴展性的時代已經來臨。
參考資料
- Rewriting Prime Agent in Rust - https://www.primeintellect.ai/blog/prime-agent-rust
-
Prime Intellect Sent 2,000 Agents to Rewrite Prime Agent 13x Faster in Rust Hermes AI News - https://hermes-ai.net/news/prime-intellect-sent-2-000-agents-to-rewrite-prime-agent-13x-faster-in-rust/ - GitHub - PrimeIntellect-ai/prime-agent: A self-improving RLM agent for… - https://github.com/PrimeIntellect-ai/prime-agent
-
AI Agents: Rankings, Prices and Live Usage Data AgentGid - https://agentgid.com/ - Rust Programming Language - https://rust-lang.org/
- 為了實現更華麗的圖形效果
- 為了更高效地處理大規模特工軍團與複雜的研究任務
- 因為該語言更容易學習
- 由 2,000 名開發人員手動編寫
- 投入了 2,000 多名 AI 特工
- 直接複製現有代碼
- 啟動速度提升 5 倍
- 內存使用量減少 10%
- 啟動速度提升 13 倍,內存使用量減少 83%