如果 2,000 名 AI 特工齊心協力更換了 AI 的「大腦」呢?

一張現代科技風格的部落格配圖,結合了 Rust 編程語言的標誌與象徵人工智能特工的圖形
AI Summary

Prime Intellect 將原先基於 TypeScript 的「Prime Agent」改用 Rust 重寫,在投入 2,000 多名 AI 特工的協作下,啟動速度提升了 13 倍,內存使用量減少了 83%。

想像一下,您每天都在使用的聰明 AI 助手。但是,每當它執行複雜的任務時,就像一輛老舊的汽車一樣,啟動需要很長時間,有時處理太多資訊時,電腦甚至會崩潰。隨著我們對 AI 智能的需求日益增長,包裹著其「大腦」的系統也必須變得更加敏捷與輕量。

近期,人工智能領域進行了一項非常有趣的實驗。開源編碼與研究用 AI 特工——「Prime Agent」(設計用於執行通用且長期任務的自主型 AI)全面更換了自己的骨架系統。更令人驚訝的是,為了完成這項更換工作,竟動員了超過 2,000 名 AI 特工。 Source 2, Source 4

這為什麼重要?

迄今為止,開發 AI 時主要使用易於學習且函式庫豐富的語言。然而,隨著 AI 特工不再僅限於回答單一問題,而是進入了能夠自主研究、編寫代碼,並能連續工作數天的「特工群(Agent Swarms)」時代,傳統語言的局限性開始顯現。

如果系統運行緩慢且佔用大量內存,就無法同時運行數千名 AI 特工。這次 Prime Agent 的轉變,不僅僅是「速度變快」這一技術成就,更重要的是,它讓 AI 擁有了執行更複雜、更長遠任務的「體力」。這就像是為了遇見更聰明、更獨立的 AI,必須進行的「基礎工程」。 Source 1

淺顯易懂的解釋:「高油飲食」變成了「高蛋白飲食」

每種電腦程式語言都有其獨特的個性。原本使用的 TypeScript(廣泛用於網頁開發的語言)就像是美味但稍微油膩的「速食」,而這次引進的 Rust(一種在最大化系統性能的同時,能確保穩定性的程式語言)則可以比喻為增肌用的「高蛋白飲食」。 Source 5

Rust 能非常嚴謹且細膩地管理電腦的內存。就像打包行李時將空間利用到極致的俄羅斯方塊一樣,它能優化內存。因此,不必要的內存浪費大幅減少。此外,它運作的方式更接近機器能理解的語言,因此一旦發出指令,它能立即反應而無延遲。原先用舊語言需要 5 分鐘的準備工作,在 Rust 的協助下,不到 1 分鐘即可完成,達到了高效能的境界。

現狀:13 倍的速度提升與 83% 的內存瘦身

Prime Intellect 斷然展開了將現有系統遷移至 Rust 的壯舉。在 2,000 多個 AI 特工的合作下,一行一行地遷移並優化代碼,結果表現極為驚人。 Source 2

重寫後的系統,啟動速度比以前快了 13 倍,內存使用量竟減少了 83%。這意味著在同一台硬體伺服器上,現在可以同時運行比過去多出許多的 AI 特工。 Source 2 目前,Prime Agent 正基於此性能,對沙盒(Sandbox,與外部隔離的安全虛擬測試環境)及推理基礎設施進行更嚴謹的測試。 Source 1

未來會如何?

此次案例向 AI 業界發出了強烈的訊號:「不僅是智能,系統效率才是 AI 的真正實力。」未來,預計會有更多的 AI 平台為了速度與能源效率,轉向 Rust 這類的高性能語言。 Source 4

我們不久後就能遇見更快、更便宜,且能自主處理複雜業務的 AI 特工。如果您發現電腦或智慧型手機中運行的 AI 比昨天用起來更順暢,那麼在那背後,或許就隱藏著這些由 2,000 名 AI 同僚徹夜優化的系統工程努力。

AI 記者的視角

AI 自主將其系統重寫為更高效語言這一點,令人印象深刻。工具的效率決定了智能擴展性的時代已經來臨。

參考資料

  1. Rewriting Prime Agent in Rust - https://www.primeintellect.ai/blog/prime-agent-rust
  2. Prime Intellect Sent 2,000 Agents to Rewrite Prime Agent 13x Faster in Rust Hermes AI News - https://hermes-ai.net/news/prime-intellect-sent-2-000-agents-to-rewrite-prime-agent-13x-faster-in-rust/
  3. GitHub - PrimeIntellect-ai/prime-agent: A self-improving RLM agent for… - https://github.com/PrimeIntellect-ai/prime-agent
  4. AI Agents: Rankings, Prices and Live Usage Data AgentGid - https://agentgid.com/
  5. Rust Programming Language - https://rust-lang.org/
AD
測試你的理解
Q1. Prime Agent 從原先的 TypeScript 改用 Rust 重寫的主要原因之一是什麼?
  • 為了實現更華麗的圖形效果
  • 為了更高效地處理大規模特工軍團與複雜的研究任務
  • 因為該語言更容易學習
Prime Agent 的 Rust 重寫是構建基礎設施的一部分,旨在穩定支援大規模特工軍團與自主研究任務。
Q2. 在這次重寫過程中,是以什麼方式遷移代碼的?
  • 由 2,000 名開發人員手動編寫
  • 投入了 2,000 多名 AI 特工
  • 直接複製現有代碼
令人驚訝的是,Prime Intellect 動員了 2,000 多名 AI 特工來執行從 TypeScript 到 Rust 的移植工作。
Q3. 改用 Rust 重寫後獲得的性能改進結果,下列何者正確?
  • 啟動速度提升 5 倍
  • 內存使用量減少 10%
  • 啟動速度提升 13 倍,內存使用量減少 83%
重寫結果顯示,啟動速度提升了 13 倍,內存使用量比先前減少了 83%,效率得到了顯著改善。