對於大型語言模型(LLM)的過度期待與神祕化,正讓工程的基本原則受到損害,這點日益引起擔憂。
想像一下,你心愛的老舊汽車拋錨了。技工沒有拆開引擎檢查,而是對著汽車的廠徽說:「這輛車現在獲得了可以自行奔馳的神祕力量。」你會照單全收嗎?
近期在矽谷代表性的開發者社群「Hacker News」上,正上演著類似令人困惑的場景。過去,當出現離譜的技術誇大(Hype)時,工程師們會冷冷地潑冷水說:「那是不可能的,以工程角度來看它並不是那樣運作的。」然而,面對大型語言模型(LLM,透過學習大量數據來生成人類語言的 AI)時,社群卻展現出完全不同的態度。難道,我們正在喪失洞察技術本質的「工程素養(Engineering Literacy)」嗎?
為什麼這很重要?
工程學本質上並非施展「魔法」的領域,而是「設計」的領域。理解複雜系統為何運作、其結構上的侷限性是什麼,以及當發生不可預見的故障時該如何修復,這些都是工程師的核心能力。
如果工程師開始將技術視為魔法並對其神祕化,可能會導致無法控制故障,或是盲目迷信危險系統的後果。近期 Hacker News 上出現了越來越多擔憂的聲音,認為圍繞著現代技術與 LLM,這種非工程性的「魔法式思考(Magical Thinking)」正在擴散 [出處: Hacker News story: Ask HN: Are we losing our engineering literacy?]。這不僅僅是一個社群的抱怨,更是一個重要的警訊,提醒我們該如何生活在技術時代。
簡單來說
喪失工程素養意味著什麼?比喻來說,就像比起鑽研「技術這輛車的引擎構造」,人們更傾向相信「光聽引擎聲,這輛車很快就能飛上天」。
| 過去的工程師在接觸技術新聞時,是以「基本的工程直覺(Basic engineering intuition)」為基礎進行判斷 [[出處: Nuxt HN | Ask HN: Are we losing our engineering literacy?](https://hn.nuxt.dev/item/49685036)]。「這是不可能的,因為實際的設計原理是這樣的」這種邏輯性的防禦機制曾發揮著作用。但自從 LLM 出現後,比起這種直覺,諸如「因為產出結果很神奇,所以它什麼都做得到」這類推測與神祕化,正逐漸成為社群的主流,這點引起了批評。 |
這就像看著充滿濾鏡的照片 App,就相信現實世界本身也變成了套用濾鏡後的模樣。工程師之間也出現了一種趨勢:與其探究 AI 生成的炫目成果背後複雜的運算過程,不如沈醉於結果本身所帶來的幻想。
現在發生了什麼事?
| 許多參與討論者質疑,工程社群是否變得過於反應式,或者工程師是否在不知不覺中受到神祕主義言論的操縱 [出處: Ask HN: Are we losing our engineering literacy? - rdintel news, [出處: AskHN:Arewebuilding a tech dystopia? | PAPPP’s Rambling](https://pappp.net/?p=58733)]。 |
事實上,在 Hacker News 上,比起對技術侷限性的冷靜分析,那些歌頌特定模型具備奇幻能力的貼文,往往更能獲得高度關注 [出處: Hacker News story: Ask HN: Are we losing our engineering literacy?]。這甚至導致了創造技術的人將技術奉為宗教的奇異現象。
未來我們該何去何從?
我們正處於轉捩點。在 AI 時代,工程師需要的不是將 AI 奉為魔法師的態度,而是能明確指出被稱為 AI 的巨大引擎究竟依循什麼原理運作、極限在哪裡的「技術誠實」。
未來值得關注的是,技術社群是否能恢復「工程直覺」。如果工程師喪失了技術本質,並沈溺於魔法式思考,我們所創造的世界將逐漸成為一個無法窺知其真相的龐大「黑盒子」。隨著技術進步,確認我們對其理解得有多清晰的努力,將變得更加迫切。
MindTickleBytes 的 AI 記者觀點
當工程師開始相信魔法的那一刻起,該技術就無法再進步了。我們應該超越對 AI 工具所產出的驚人成果的讚嘆,重新拾起勇氣,去窺探那些成果生成背後的「程式碼縫隙」。因為技術並非魔法,而是人類所積累的邏輯總和。
參考資料
- Ask HN: Are we losing our engineering literacy? - rdintel news
-
[Nuxt HN Ask HN: Are we losing our engineering literacy?](https://hn.nuxt.dev/item/49685036) - Hacker News story: Ask HN: Are we losing our engineering literacy?
- Ask HN: 私たちはエンジニアリングリテラシーを失いつつあるのか? — Ask HN: Are we losing our …
-
[AskHN:Arewelosingourengineeringliteracy? Hacker News](https://news.ycombinator.com/item?id=49685036) -
[AskHN:Arewebuilding a tech dystopia? PAPPP’s Rambling](https://pappp.net/?p=58733) -
[Natural 20 — AI News in Real-Time The Bloomberg Terminal for AI](https://natural20.com/c/b1ftf7) -
[Natural 20 — AINewsin Real-Time The Bloomberg Terminal for AI](https://natural20.com/c/mvkda2)
- AI 技術發展速度太慢
- LLM 的「魔法式思考」正在蔓延
- 軟體工程師的薪資正在降低
- 行銷人員的意見
- 基本的工程直覺
- 社群的人氣投票
- 工程師寫程式變得更好
- 工程師變得更容易受到外部操控或反應式思考的影響
- 工程的定義變得更廣泛