Rivet 是一個開源協調器,透過將 Amazon S3 作為資料的核心通道,能以低成本、穩定且強大的方式管理 AI 代理工作負載。
想像一下,當您早上醒來對 AI 助理說:「幫我整理今天的會議資料,並寄給相關負責人」,背後就有數十名看不見的「數位員工(AI 代理)」瞬間分工處理完複雜的業務。
然而,當這些員工數量增加時,管理就成了問題。誰在做什麼?中間是否中斷了?這都需要有人指揮。最近出現了一位能解決此困擾的新指揮家,那就是開源協調器(Orchestrator,一種用於協調複雜系統的管理工具)—— Rivet 出處: Rivet: Orchestrate AI Agents Using S3 as Your Data Plane。
為什麼需要這樣的工具?
隨著時代跨越簡單的 AI 對話,進入實際執行任務的「代理」時代,開發者面臨了新的障礙。因為當 AI 執行的任務變得漫長或複雜時,要維持任務不中斷且穩定運作(持久性)是非常困難的。
簡單比喻,一個人做文書工作沒問題,但當數百人同時進行複雜專案時,若沒有「經理」來掌握誰手上拿什麼文件、誰在休息,就會陷入混亂。Rivet 正是擔任管理代理工作負載、擴展業務規模並促使多個代理合作的經理角色 出處: Rivet - The Orchestrator for Agentic Workloads。
輕鬆理解:Rivet 的功能是什麼?
若用一句話定義 Rivet,它就是「數位員工的宿舍與司令部」。
第一,以「Actor(執行者)」為單位進行管理。Rivet 將所有代理與工作流程封裝為「Actor」單位 出處: Rivet - The Orchestrator for Agentic Workloads。就像為每個員工分配個人宿舍房間一樣,每個代理以 72KB 的極小 Actor 單位進行管理,因此非常輕量且運作迅速 出處: Rivet gives each AI agent a 72 KB Actor。
第二,將 Amazon S3 作為資料通道。最創新之處在於它將 Amazon S3(儲存資料的雲端倉庫)作為核心資料通道 出處: Rivet: S3 基於的高效能代理工作負載協調器發布。通常使用資料庫會導致成本高昂且速度變慢,但透過利用許多企業已在使用的 S3,同時確保了系統的成本效益與持久性 出處: Rivet: Orchestrate AI Agents Using S3 as Your Data Plane。
因此,它能有效協調代理們是否各自妥善完成任務,以及如何與鄰近的代理進行溝通 出處: Introducing agentOS v0.2 - Rivet。
目前能做什麼?
作為開源專案發布的 Rivet,目前主要為 AI 服務開發者提供基礎架構工具,具備以下功能 出處: Rivet - The Orchestrator for Agentic Workloads:
- 工作流程設計:按步驟設計並執行複雜的業務流程。
- 代理間溝通:實時連結需要多個代理協作的任務。
- 多用戶環境:在單一系統內管理多用戶會話,協助代理們進行協作 出處: Introducing agentOS v0.2 - Rivet。
未來展望如何?
AI 代理單打獨鬥的時代已經過去,現在正邁向多個代理組隊合作的時代。未來,代理回答問題的速度固然重要,但「多穩定、多持續地合作」將成為核心競爭力。隨著 Rivet 等基礎架構技術日趨成熟,我們這些使用者將無需再為技術複雜性而煩惱,能以更低的成本獲得更聰明、更可靠的 AI 助理。
MindTickleBytes 的 AI 記者觀點
AI 代理的時代才剛開始。隱藏技術複雜性的這種「隱形指揮家」越多,我們這些使用者即使不去研究技術原理,也能體驗到更完美的 AI 服務。值得持續關注 Rivet 所建構的代理協調生態系統,是否會成為企業級自動化的標準。
參考資料
-
[Rivet:RivetActors are the primitive for stateful… Y Combinator](https://www.ycombinator.com/companies/rivet) -
[Rivet gives each AI agent a 72 KB Actor · Hacker News Zeli](https://zeli.app/story/50381687) - Rivet: Orchestrate AI Agents Using S3 as Your Data Plane
- Rivet: S3 基於的高效能代理工作負載協調器發布
- Rivet - The Orchestrator for Agentic Workloads
- Introducing agentOS v0.2 - Rivet
- 本地資料庫
- Amazon S3
- 分散式記憶體快取
- 容器 (Container)
- Actor (執行者)
- 執行緒 (Thread)
- 代理之間的通訊
- 多用戶會話管理
- 影像生成模型訓練