AI 能主動修正錯誤並成長?開發者的新同事:「自我學習代理」

象徵 AI 代理在程式設計環境中自行修訂指導原則並成長的圖像。
AI Summary

Warp 推出了一套自我學習型 AI 代理系統,能分析開發團隊的回饋,從而自行修訂指導原則並提升能力。

試想一下:每天早上,你都為新來的實習生提供工作指導。令人驚訝的是,這位實習生在看到你修改過的工作成果後,心想:「啊,原來下次用這種方式做會更有效率」,並自行更新了他的工作手冊。你可以預期,明天他處理工作的熟練度會比今天更好。

作為開發者的 AI 終端機與開發環境,「Warp」讓這種智慧型同事成為了現實。最近,Warp 利用 Anthropic 的 Claude 平台,發布了一款能夠學習人類團隊回饋,並自行改進其工作技能(Skill)的「自我學習代理(Self-improving agent)」框架 [Source 3, Source 7]。

為什麼這很重要?

大多數的 AI 代理通常被視為「一次性」工具。團隊部署代理、分配任務、檢查結果後,事情就結束了。代理在執行任務過程中獲得的經驗,往往無法自動延續到下一次工作中 [Source 2]。

然而,Warp 的作法截然不同。Warp 擁有全球 80 萬名月活躍使用者 [Source 3, Source 8],並以擁有超過 6 萬個 GitHub 星數的開源終端機為基礎 [Source 6],旨在打造更可信賴的開發環境。這套新系統不會浪費開發團隊給予的任何修改意見與回饋,而是將其轉化為「學習資產」。開發者不再需要為了防止代理重複犯錯,而每次都長篇大論地解釋。因為 AI 會自行修訂手冊,並針對團隊的工作方式進行最佳化。

輕鬆理解:代理的「錯題本」

簡單來說,這套系統就像是代理程式專用的「自動化錯題本」

用個比喻:如果學生考完試後不整理錯題本,下次考試時仍會犯同樣的錯誤。Warp 的代理在工作完成後會回顧執行過程,研讀人類團隊成員給予的回饋,並在領悟到「原來我在這個部分做得不足」後,自行修訂記載工作指導方針的檔案 [Source 4, Source 7]。

這個過程就像照片修圖軟體的濾鏡調整色彩一樣,代理會不斷微調其知識過濾器,以提升成果的品質 [Source 7]。代理提出的改善建議並非無條件執行,而是必須經過開發者日常使用的「標準合併請求(Pull Request,即審核並合併程式碼變更的過程)」流程。由於是由人類親自審核與核准,因此不必擔心失去對安全性或工作方式的控制權 [Source 7]。

現況:發展到什麼地步了?

目前,Warp 正將這項技術作為代理開發環境(Agentic development environment)的核心來使用 [Source 6]。開發者使用 Claude Code 或 Warp Agent 等工具,在本地或雲端環境執行任務 [Source 6]。

透過技術研討會,該學習迴圈的運作方式已經過演示 [Source 1, Source 5],許多開發者在現場親身體驗了代理接納人類回饋並進化的過程 [Source 2]。目前,這項技術已經紮根,代理程式不再僅僅停留在執行命令的階段,而是成為了儲存與發展團隊工作知識的「軟體工廠」中不可或缺的一環 [Source 4]。

未來展望

未來隨著人工智慧變得更加自主,收集、回應人類回饋並從中改進的能力將變得愈發重要 [Source 14]。Warp 的案例清楚地表明,與 AI 協作的未來,將不再是「人類單方面的指令」,而是「互補式成長」的過程。

像 Warp 這樣賦予代理「學習迴圈」的舉措,極有可能成為業界的新標準。使用者未來不僅是對 AI 說「請這樣做」,更會扮演「經理」的角色,觀察並核准 AI 對工作方式所做的變更,管理其成長過程。如同與訓練有素的助手共事一般,AI 代理每天都在根據團隊方式進行微小進化的時代,已經來臨。

參考資料

  1. [How Warp builds self-improving agents on Claude Claude by Anthropic](https://claude.com/blog/how-warp-builds-self-improving-agents-on-claude)
  2. [How Warp builds self improving agents on Claude Webinars](https://www.anthropic.com/webinars/how-warp-builds-self-improving-agents-on-claude)
  3. Warp Builds Self-Improving Agents Using Claude Platform
  4. [Build a self-improving agent Warp](https://docs.warp.dev/guides/agent-workflows/build-a-self-improving-agent)
  5. [Warp x Anthropic How Warp builds self improving agents on Claude](https://www.warp.dev/events/how-warp-builds-self-improving-agents-on-claude)
  6. [Warp Claude Platform (API) case study Claude by Anthropic](https://claude.com/customers/warp)
  7. Warp turns developer feedback into self-improving Claude agents
  8. WarpBuildsSelf-ImprovingAgentsUsingClaudePlatform
  9. [HowWarpbuildsselfimprovingagentsonClaude Webinars (LinkedIn)](https://www.linkedin.com/posts/zachlloyd_how-warp-builds-self-improving-agents-on-activity-7460364621476974592-bssT)
AD
測試你的理解
Q1. Warp 的新 AI 代理系統是如何提升能力的?
  • 每天下載新的模型
  • 透過分析人類團隊的回饋,自行修訂指導原則(技術檔案)
  • 學習網際網路上的所有資料
Warp 的代理程式會根據人類團隊成員修改的內容,自行修訂自己的指導原則,以提高後續工作的準確性。
Q2. 在此系統中,代理程式提出的改進建議需經過什麼程序才能應用?
  • 立即自動應用
  • 管理員點擊核准按鈕後應用
  • 通過工程師平時使用的標準合併請求(PR)流程進行審核並應用
代理程式建議的技能更新,會透過人類工程師平時慣用的標準合併請求流程進行審核與應用。
Q3. Warp 是基於哪個平台構建此自我學習代理的?
  • Anthropic 的 Claude 平台
  • OpenAI 的 GPT 平台
  • Google 的 Gemini 平台
Warp 利用 Anthropic 的 Claude 平台實現了這一創新的自我學習框架。