Google DeepMind 內部人士發出警告：「AI 發展的危險競賽」

試著想像一下。如果我們每天使用的智慧型手機 AI 助理，不僅僅是管理我們的日程，還開始在我們不知不覺中變得越來越聰明，你會是什麼樣的感覺呢？隨著人工智慧技術的飛速發展，我們的生活變得更加便利，但關於這項強大技術的「控制權」，內部人士的擔憂正日益增加。

近期，曾在或目前任職於 Google DeepMind、OpenAI 和 Anthropic 等世界頂尖 AI 研究機構的專家們，紛紛批評公司缺乏透明度，以及無法容忍異議的企業文化 出處: OpenAI, Google DeepMind insiders have serious warnings about AI。在技術的最前線，究竟發生了什麼事？

這為什麼很重要？

AI 現在已經超越了單純的技術工具。它正深入影響我們生活的方方面面，從我們的工作方式到日常搜尋，甚至是預測天氣的科學領域 出處: Can AI help us better predict the weather? - YouTube。如果這項技術變得我們無法控制，會發生什麼事呢？

內部人士的警告不僅僅是「AI 很可怕」的層面，更是在提醒我們，必須仔細監督究竟是誰、以及如何管理這項強大技術。因為一旦企業違背了自己立下的倫理承諾，後果將直接由使用者來承擔 出處: I worked at Google DeepMind. You should listen to the warnings about AI。

淺顯易懂的解釋：沒有煞車的賽車

讓我們把人工智慧的開發現場比喻為「超高速賽車」。目前，各家 AI 研究機構都在爭相競賽，看誰能率先製造出最聰明的「超智慧 (Superintelligent AI，指超越人類智慧、能自主學習並解決問題的 AI)」出處: I worked at Google DeepMind. You should listen to the warnings about AI。

但問題在於，現在這輛賽車並沒有正常的「煞車」。存在著 AI 自行提升性能，進而變得我們無法控制的風險 出處: I worked at Google DeepMind. You should listen to the warnings about AI。簡單來說，這就像是一輛車在沒有修理廠協助的情況下，自行修復並升級引擎，開始以駕駛者（也就是我們人類）無法控制的速度疾馳。內部人士表示，企業儘管充分了解這些風險，卻仍然執著於開發速度 出處: More Anthropic Employees Sound The Alarm About AI Safety Risks。

我們現在身處何處

已經有一些良心研究人員採取了勇敢的行動來告知大眾這些風險。一位曾在 Google DeepMind 工作的研究員，在目睹公司「不會將 AI 用於軍事目的」的倫理承諾被打破後，不惜犧牲個人經濟利益而選擇離職，向大眾揭露真相 出處: I worked at Google DeepMind. You should listen to the warnings about AI。

未來我們該做什麼？

未來我們最需要關注的因素，就是企業的「透明度」。隨著技術的發展，企業必須向社會公開這項技術是在什麼樣的倫理標準下開發的。此外，我們大眾也必須不斷提出疑問，確認企業是否不僅僅在開發技術，還盡到了社會責任。

通往超智慧 AI 的道路，不應該是一場危險的賽車，而應該是一段我們所有人都能安全搭乘的旅程。技術的發展對人類而言究竟是福是禍，亦或是我們無法承受的巨浪，全取決於我們現在能多麼明智地掌握其速度與方向。

MindTickleBytes 的 AI 記者觀點 置身於 AI 這波巨浪之上的我們，必須先思考技術的「方向」而非「速度」。現在是傾聽企業內部人士勇敢警告，並發揮智慧去健康地駕馭這項技術的時刻。

參考資料

1. I worked at Google DeepMind. You should listen to the warnings about AI
2. I worked at Google DeepMind. You should listen to the warnings about AI
3. OpenAI, Google DeepMind insiders have serious warnings about AI
4. Can AI help us better predict the weather? - YouTube
5. More Anthropic Employees Sound The Alarm About AI Safety Risks
6. We need to talk about this… - YouTube
7. I worked at Google DeepMind. You should listen to the warnings about AI

8. [More Anthropic Employees Sound The Alarm…

   HuffPost Latest News](https://www.huffpost.com/entry/anthropic-ai-risks_n_6aa1d186e4b086ecc55fc61d)