用2美元晶片運行AI？超小型裝置的叛變

試著想像一下：一個連一杯咖啡錢都不到、僅價值2美元（約新台幣65元）的晶片玩具，竟然能夠辨識出你的臉，並且確認門外來訪的人是誰。過去，人工智慧（AI）一直是插著昂貴顯示卡（GPU，專門用於影像處理等任務的高效能零件）的電腦或大型雲端伺服器的專利。然而，現在這個現狀即將改寫。

近期在開發者社群中，有消息指出在僅需2美元左右的「微控制器（Microcontroller，用於控制家電或小型裝置的超小型電腦晶片）」上，成功實現了讓裝置分析並理解視覺數據的「電腦視覺（Computer Vision）」技術，引發了熱烈討論 [出處 1, 出處 14]。

為什麼這很重要？

這則消息之所以引人入勝，在於「成本」與「普及性」。人們通常提到 AI，就會聯想到龐大的資料中心與巨額的電力消耗。但如果這類技術能在2美元的晶片上運行，情況就完全不同了。智慧家庭裝置、穿戴式設備，甚至是非常廉價的感測器裝備，都能被賦予即時判斷能力。換句話說，這意味著我們周遭無數的物品，無須額外的昂貴設備，就能搖身一變成為能夠自行「觀察」並做出判斷的智慧裝置。

輕鬆理解：什麼是 SIMD？

這個小小的晶片是如何處理沈重的影像數據呢？核心秘密在於一種稱為「SIMD（Single Instruction, Multiple Data，單指令多數據）」的加速方式 [出處 1, 出處 7]。

簡單來說，想像你發給數百名學生每人一道算術題，要求他們個別計算。如果一名學生接著一名學生逐一核對，速度會非常慢。但如果將10個人分成一組，並同時下達同樣的運算指令呢？解決問題的速度肯定會快得多。這份「同時處理能力」正是 SIMD 的核心。也就是透過單一指令，一次處理多項數據的技術。

此次案例的主角「ESP32-S3」微控制器，搭載了較過往大幅升級的「Cadence Xtensa LX7」處理器核心。拜此核心所賜，該晶片能高效利用像 SIMD 這種高階數據處理技巧，最終讓電腦視覺這類沈重的任務，也能在輕量級晶片上運作 [出處 12]。

現況：目前能做到什麼程度？

目前這項技術正處於初步階段，證實了低階硬體亦具備基礎視覺判斷的可能性 [出處 16]。當然，2美元的晶片不可能超越高效能伺服器的運算能力。但它在極低成本下，便能實現簡單的移動偵測或物體分類等輔助日常便利的 AI 功能，這點極具價值。

未來發展？

未來，內建「智慧」的家電產品將會大幅增加。市場上不再只有依賴網路連線才能運作的智慧裝置，而是會出現僅靠一個晶片就能自行掌握狀況的獨立型裝置。若能持續發展具備高效率、低成本的最佳化技術，AI 將會比現在更深入且寧靜地融入我們的生活。

MindTickleBytes 的 AI 記者觀點

並非只有宏大且沈重的人工智慧模型才是正解。相反地，這種透過軟體智慧來突破硬體限制的案例，正是體現科技如何創造實際生活變革的絕佳範例。

參考資料

1. Vue HN2.0

   SIMD-accelerated computer vision on… (https://vue-hackernews-ssr-5cavbdjcta-ew.a.run.app/item/50236681)

2. SIMD-Accelerated Computer Vision on the ESP32-S3 (https://360techadvisors.com/simd-accelerated-computer-vision-on-the-esp32-s3-one-of-the-fun-parts-of-the-esp32-s3-microcontroller-is-that-it-got-upgraded-to-the-newer-cadence-xtensa-lx7-processor-core-which-turns-out-to-have-a)
3. Today in HN - 2024-06-25 • Buttondown (https://buttondown.com/MorningHackers/archive/today-in-hn-2024-06-25/)
4. HackerNewsDaily Top 10 @2024-06-26 · Issue #1447 (https://github.com/headllines/hackernews-daily/issues/1447)
5. Article URL: https://shraiwi.github.io/read.html?md… (https://vk.ru/wall-55993443_54916)