AI 代理竟能透過一個 URL 分享?瀏覽器直接執行 HashAgent 的秘密

在網頁瀏覽器視窗中執行的 AI 代理圖示與利用本地顯示卡的圖形。
AI Summary

HashAgent 是一項創新技術,讓你能無需複雜安裝或伺服器,直接在網頁瀏覽器中執行並分享 AI 代理。

想像一下:沒有複雜的安裝過程或設定,只要傳送一個 URL 給朋友,你製作的聰明 AI 代理就能直接在他的電腦上運作。過去,要建立 AI 代理,工程門檻極高,必須租用雲端伺服器、申請並串接昂貴的 API 金鑰等。但現在,只要有網頁瀏覽器,人人都能輕鬆簡單地「部署」屬於自己的 AI 時代已經來臨。

為什麼這很重要?

目前我們使用的大多數 AI 都是在龐大的中央伺服器上運作。也就是說,每當你向 AI 提問,該資料就必須透過網際網路傳輸到雲端進行處理,然後再傳回來。這不僅帶來可觀的成本問題,更引發了寶貴資料必須留在外部伺服器的隱私權疑慮。

然而,像 HashAgent 這類技術,從根本上動搖了這種「雲端依賴性」。無需擔心伺服器運營成本或複雜的環境設定,任何人都可以利用個人的硬體(電腦)直接運作 AI,這大幅降低了 AI 技術的門檻(Source 2, Source 18)。

輕鬆理解:瀏覽器中的超級引擎

HashAgent 的核心技術是「網頁 GPU(WebGPU)」。簡單比喻,就像是網頁瀏覽器直接借用了你電腦中沉睡的「超級引擎」。

AD

為了讓 AI 理解文脈,必須驅動「Transformer(AI 的核心結構,透過識別句子中詞彙間的關係來理解脈絡)」模型,這需要極大的運算能力。過去這必須依賴高效能伺服器,但 WebGPU 允許網頁瀏覽器直接對電腦的顯示卡(GPU)下達指令來驅動 AI(Source 16)。

就像智慧型手機的修圖軟體在瀏覽器中加上濾鏡一樣,複雜的 AI 運算不再由伺服器處理,而是直接在你電腦的瀏覽器中完成。HashAgent 協助將這種在本地環境運作的 AI 代理製作成單一獨立的 HTML 檔案,讓你像分享網站一樣輕鬆地進行部署(Source 3)。

目前狀況

當然,仍有一些前提條件。目前若要順暢使用 HashAgent,必須安裝支援 WebGPU 的最新瀏覽器(Chrome 或 Edge),且需要搭載合適規格顯示卡的 PC 或 Apple Silicon Mac(Source 3)。

目前已有許多開發者正活躍於實驗各種瀏覽器端的本地 AI 模型。生態系擴張極快,甚至連連結瀏覽器分頁,藉此借用或共享他人閒置 GPU 資源的 P2P(點對點)運算方式都在研究中(Source 1)。此外,為了在網路連線不穩定的環境下也能運作,利用 1 位元模型等超小型模型的突破口也持續在開發中(Source 12)。

未來會如何?

不久的將來,AI 代理將不再是需要複雜「安裝」的笨重程式,而會成為像登入網站一樣輕鬆「接觸」的存在。透過一個 URL 立即執行他人製作的有用 AI 代理,並在必要時藉用我電腦的效能立即進行作業的方式將會普及。我們將不必再煩惱伺服器費用,也不用擔心資料外洩至外部伺服器,「以個人為中心的 AI 時代」正快速逼近。


參考資料

  1. [AI Grid: Run LLMs in Your Browser, Share GPU Compute with the World WebGL / WebGPU Community — Showcase, Tutorials, Examples & More](https://www.webgpu.com/showcase/browser-ai-llms-share-gpu-compute/)
  2. Run AI Models in the Browser with WebGPU & WASM
  3. AgentOp — Run a Real LLM in Your Browser. No Install.
  4. GitHub - hannes-sistemica/browser-llm-webgpu: Proof of concept for a reasoning model that runs locally in your browser with WebGPU acceleration · GitHub
  5. r/LocalLLM on Reddit: Running a local LLM in browser via WebGPU to drive agent behaviour inside a Unity game
  6. TheAIcommand center for your team’sagents, automations…
  7. Gemma Gem: On-DeviceAIBrowser ExtensionviaWebGPU
  8. TheWebGPUSamples are a set of samples demonstrating the use of…
  9. LocalInference Breakthrough: 1-bit BonsaiWebGPU, Ollama…
  10. FlowithAI- Your Agentic Workspace
  11. CanIRun.ai— Can your machinerunAImodels?
  12. Gemma Gem -AnAIagentin Chrome, 100%local- Korben
  13. WebGPU
  14. [AnythingLLM — On-deviceAIfor productivity Local& Private](https://anythingllm.com/)
AD
測試你的理解
Q1. 使用 HashAgent 時必須具備的條件是什麼?
  • 獨立的雲端伺服器
  • 支援 WebGPU 的網頁瀏覽器與顯示卡
  • 付費 API 金鑰
HashAgent 是基於 WebGPU 技術,利用本機電腦硬體,因此無需額外伺服器或金鑰,即可直接在瀏覽器中執行。
Q2. 下列何者並非在本地執行 AI 代理的優點?
  • 節省 API 使用費
  • 增強資料安全性
  • 必須連接網際網路
相反地,本地執行具有降低對雲端的依賴、節省伺服器成本,並將個人隱私保留在裝置內的優點。
Q3. 透過 HashAgent 製作的代理是以何種形式分享的?
  • 獨立的安裝程式
  • 獨立的 HTML 檔案
  • 雲端服務連結
HashAgent 允許將完成的 AI 代理製作成單一獨立的 HTML 檔案進行分享。