Anthropic 開發團隊透過細緻分析及改善評測指標,在兩週內將 Claude 的使用者體驗速度提升了 3 倍。
試想一下。忙碌的早晨,為了整理會議資料而打開了 AI 聊天機器人。如果是平常,輸入問題後需要等待很久,但今天才剛輸入,回答便傾瀉而出。就像與身旁的同事對話一樣。我們所使用的人工智慧 (AI) 服務之「速度」,不僅是單純的技術數值,更是決定我們能多有效率活用 AI 的關鍵因素。
近期人工智慧企業 Anthropic 宣布,其 AI 服務 Claude (由 Anthropic 開發的大型語言模型) 的使用者介面速度在短短兩週內提升了約 3 倍。 Source 2 Source 8 究竟在這段短時間內發生了什麼魔法?
這為何重要?
對使用者而言,「速度」即是「生產力」。在 AI 生成回答時我們感受到的延遲,往往是中斷思考流程的主因。對於將 AI 作為商業夥伴的人們來說,速度提升不只是單純的便利,更是確保工作連續性的重要功能 Source 7。此次改善並非採用更換硬體或整個模型的方式,而是透過修飾既有服務結構,將體感效能發揮到極致,這點具有重大意義。
輕鬆理解:「測量」即是「改善」
Anthropic 開發團隊提升效能的秘訣出乎意料地簡單明確。那就是徹底遵循了「只要能測量某物,就能讓它變得更快」的原則 Source 2。
我們來做個比喻。假設家裡的水龍頭出水太慢。如果不確切知道是哪裡堵塞、水壓是否有問題,還是水管太窄,就什麼也修不好。開發團隊在 AI 準備回答的過程中的每個細小階段都設置了碼表。他們密集地設定了測量指標,以找出是哪個部分導致回答變慢,以及在資料傳輸過程中哪裡發生了瓶頸 (流動受阻的地方)。
簡單來說,就是將隱形的緩慢原因視覺化為數字。找出原因後,需要修改的地方就變得很明確,透過集中補強這些部分,整體速度成功提升了 3 倍 Source 2。
目前狀況
現在 Claude 已不僅僅是聊天機器人,在軟體開發輔助、大規模代碼遷移 (將資料或代碼移至他處的工作) 等專家領域中也正活躍地被使用 Source 1 Source 16。早在 2024 年 5 月為基準,Claude Opus 4 模型在改善 AI 訓練代碼的測試中,已記錄了比人類熟練者快 3 倍以上的速度 Source 17。技術正以驚人的速度進化,且 Anthropic 在每次模型發布時,都會持續進行測試以優化既有模型,使其運作更快 Source 17。
未來展望
Anthropic 的動向顯示,人工智慧的進化方向已不僅是智慧程度的提升,正轉移至「工作流程的連續性」 Source 13。未來我們將體驗到更快速、連結更自然的 AI 環境。Anthropic 最近正在探索 AI 自行建立或優化更優秀的後續模型之路,這個速度比我們預期的還要更快地來到 Source 11。
終究,技術完善度不僅在於「變得更聰明」,更取決於我們使用的服務提供了多少「流暢的體驗」。這次兩週的實驗,顯示了 AI 若要更深入地成為日常工具,所必須經過的通關儀式。
MindTickleBytes 的 AI 記者觀點
此次案例充分顯示,除了提升巨型模型的智慧外,以「顯微鏡般視角」優化運作系統的過程,能產生多麼強大的結果。AI 技術的競爭已超越單純的智慧競賽,轉向營造我們能深刻感受到的流暢體驗之「運作美學」。
參考資料
- Claude(AI) - Wikipedia
- How we made claude.ai 3x faster in two weeks / claude.dev
- We made claude .ai 3x faster in two weeks. Here’s how we use …
- 3 Prompts That Made Me ₹4,76,356 With Claude AI… - YouTube
- Anthropic on X: “Our internal data shows Claude is …”
- Anthropic on X: “Each time we release a model, we run the …
- Anthropic: Claude Code ‘Fast Mode’ 發表及技術分析
- Claude by Anthropic
- 將模型的參數數量增加了 3 倍
- 找出並分析更多可用於提升效能的指標
- 將伺服器數量增加了 3 倍
- 2 天
- 2 週
- 2 個月
- 約 3 倍的速度提升
- 約 52 倍的速度提升
- 沒有速度提升