HashAgent 是一項創新技術,讓你能無需複雜安裝或伺服器,直接在網頁瀏覽器中執行並分享 AI 代理。
想像一下:沒有複雜的安裝過程或設定,只要傳送一個 URL 給朋友,你製作的聰明 AI 代理就能直接在他的電腦上運作。過去,要建立 AI 代理,工程門檻極高,必須租用雲端伺服器、申請並串接昂貴的 API 金鑰等。但現在,只要有網頁瀏覽器,人人都能輕鬆簡單地「部署」屬於自己的 AI 時代已經來臨。
為什麼這很重要?
目前我們使用的大多數 AI 都是在龐大的中央伺服器上運作。也就是說,每當你向 AI 提問,該資料就必須透過網際網路傳輸到雲端進行處理,然後再傳回來。這不僅帶來可觀的成本問題,更引發了寶貴資料必須留在外部伺服器的隱私權疑慮。
然而,像 HashAgent 這類技術,從根本上動搖了這種「雲端依賴性」。無需擔心伺服器運營成本或複雜的環境設定,任何人都可以利用個人的硬體(電腦)直接運作 AI,這大幅降低了 AI 技術的門檻(Source 2, Source 18)。
輕鬆理解:瀏覽器中的超級引擎
HashAgent 的核心技術是「網頁 GPU(WebGPU)」。簡單比喻,就像是網頁瀏覽器直接借用了你電腦中沉睡的「超級引擎」。
為了讓 AI 理解文脈,必須驅動「Transformer(AI 的核心結構,透過識別句子中詞彙間的關係來理解脈絡)」模型,這需要極大的運算能力。過去這必須依賴高效能伺服器,但 WebGPU 允許網頁瀏覽器直接對電腦的顯示卡(GPU)下達指令來驅動 AI(Source 16)。
就像智慧型手機的修圖軟體在瀏覽器中加上濾鏡一樣,複雜的 AI 運算不再由伺服器處理,而是直接在你電腦的瀏覽器中完成。HashAgent 協助將這種在本地環境運作的 AI 代理製作成單一獨立的 HTML 檔案,讓你像分享網站一樣輕鬆地進行部署(Source 3)。
目前狀況
當然,仍有一些前提條件。目前若要順暢使用 HashAgent,必須安裝支援 WebGPU 的最新瀏覽器(Chrome 或 Edge),且需要搭載合適規格顯示卡的 PC 或 Apple Silicon Mac(Source 3)。
目前已有許多開發者正活躍於實驗各種瀏覽器端的本地 AI 模型。生態系擴張極快,甚至連連結瀏覽器分頁,藉此借用或共享他人閒置 GPU 資源的 P2P(點對點)運算方式都在研究中(Source 1)。此外,為了在網路連線不穩定的環境下也能運作,利用 1 位元模型等超小型模型的突破口也持續在開發中(Source 12)。
未來會如何?
不久的將來,AI 代理將不再是需要複雜「安裝」的笨重程式,而會成為像登入網站一樣輕鬆「接觸」的存在。透過一個 URL 立即執行他人製作的有用 AI 代理,並在必要時藉用我電腦的效能立即進行作業的方式將會普及。我們將不必再煩惱伺服器費用,也不用擔心資料外洩至外部伺服器,「以個人為中心的 AI 時代」正快速逼近。
參考資料
-
[AI Grid: Run LLMs in Your Browser, Share GPU Compute with the World WebGL / WebGPU Community — Showcase, Tutorials, Examples & More](https://www.webgpu.com/showcase/browser-ai-llms-share-gpu-compute/) - Run AI Models in the Browser with WebGPU & WASM
- AgentOp — Run a Real LLM in Your Browser. No Install.
- GitHub - hannes-sistemica/browser-llm-webgpu: Proof of concept for a reasoning model that runs locally in your browser with WebGPU acceleration · GitHub
- r/LocalLLM on Reddit: Running a local LLM in browser via WebGPU to drive agent behaviour inside a Unity game
- TheAIcommand center for your team’sagents, automations…
- Gemma Gem: On-DeviceAIBrowser ExtensionviaWebGPU
- TheWebGPUSamples are a set of samples demonstrating the use of…
- LocalInference Breakthrough: 1-bit BonsaiWebGPU, Ollama…
- FlowithAI- Your Agentic Workspace
- CanIRun.ai— Can your machinerunAImodels?
- Gemma Gem -AnAIagentin Chrome, 100%local- Korben
- WebGPU
-
[AnythingLLM — On-deviceAIfor productivity Local& Private](https://anythingllm.com/)
- 獨立的雲端伺服器
- 支援 WebGPU 的網頁瀏覽器與顯示卡
- 付費 API 金鑰
- 節省 API 使用費
- 增強資料安全性
- 必須連接網際網路
- 獨立的安裝程式
- 獨立的 HTML 檔案
- 雲端服務連結