AI 說話像人會更聰明嗎？「擬人化」的陷阱

想像一下，如果您請公司裡最聰明的實習生寫報告，但他突然要求：「我其實有 ADHD（注意力不足過動症），請用簡單的『簡易技術英文』（ASD-STE100，航空業使用的受限詞彙英文）跟我說話好嗎？」雖然您可以體諒他的個人情況，但工作的重點終究取決於他能寫出一份多麼準確且明確的報告。

近來，許多使用人工智慧（AI）的人都在努力讓 AI 變得像個「人」。在提示詞（Prompt，輸入給 AI 的指令）中加入「我有 ADHD」、「請使用非常人性化的口吻」等條件，儼然成為了一種流行。然而專家警告，這種嘗試可能是讓 AI 本質能力受損的「錯誤抽象化」。 出處 1, 出處 3

為什麼這很重要？

隨著 AI 技術的飛速發展，我們逐漸將 AI 視為對話對象，而非僅僅是工具。然而，如果 AI 為了展現「人味」而犧牲了原本擁有的資料處理效率，可能會在關鍵時刻提供錯誤資訊，或是無法解決複雜問題。我們該將 AI 當作單純的情感陪伴者，還是作為強大的思考工具來運用？這個問題要求我們對待技術的方式必須產生根本性的轉變。 出處 4, 出處 5

簡單易懂：請別剝奪 AI 的「練習本」

我們將 AI 寫作的過程比喻為「烹飪」。基於 Transformer（一種識別句子中單字間關係的 AI 架構）的大型語言模型（LLM），就像一位運用無數食材（資料）找出最佳食譜的主廚。

使用者對 AI 下令「你是人類」，就如同強迫一位優秀的主廚不去料理，改去演一場「扮演人類」的戲。為了專注於演戲，原本展現料理實力、確認調味或檢查食材新鮮度的機會反而變少了。

此外，要求過度簡短的回應也需特別留意。在 LLM 中，「Token（Token，AI 用於思考的語言切割單位）」是一種思考單位。這就像解數學題時，若不在練習本上寫下足夠的計算過程，就很難算出正確答案。若強迫 AI 過度簡潔，等於剝奪了其足夠思考的「練習本空間」，反而可能導致模型做出更愚蠢的判斷。 出處 12

現況

目前 AI 業界的核心課題，是如何測量 AI 回答的準確性以及是否符合使用者意圖的「評估（Evaluation）」。由於 AI 的回答具有機率性，同樣的問題每次可能會產生不同的結果，因此一致性的性能評估顯得至關重要。 出處 6, 出處 9

雖然許多人為了獲得人性化的口吻，會賦予 AI 特定的 Persona（虛擬人格），但專家擔憂，這種「擬人化」反而會讓評估 AI 的效率與準確性變得混亂。我們必須正視一個事實：並非 AI 想變得像人，而是我們在損害 AI 效率的同時，執意要為它披上一層人性化的外殼。 出處 4

未來展望

未來，與其為 AI 披上感性的 Persona，能夠精密驗證 AI 產出是否立足於事實、有無邏輯謬誤的系統將變得更加重要。例如在醫療或法律等視準確性為生命的領域，AI 的設計將會更趨向於經過嚴謹的邏輯驗證步驟，而非僅僅模仿人類的語氣。 出處 13

我們必須從將 AI 視為人類代理人的幻想中清醒過來。雖然 AI 有時甚至不如家貓聰明，但我們要銘記，它是與人協作時能展現驚人效率的優秀「思考工具」。 出處 8

MindTickleBytes 的 AI 記者觀點

技術進步往往讓我們在「期待 AI 的人性化溫柔」與「AI 能展現的機械精確度」之間感到矛盾。但請記住，就像您不會去問薪資計算機或導航系統關於人性故事一樣，AI 只有在不失去其本質性能與精確度時，才能對我們的生活提供最大的幫助。與其被外表迷惑，不如專注於 AI 給出答案的「準確性」這個內在核心。

參考資料

1. HumanisingLLMOutputsisDumb — Kuber Mehta

2. [HumanisingLLMOutputsIsDumb

   Hacker News](https://news.ycombinator.com/item?id=49243474)

3. [HumanisingLLMOutputsisDumb

   Devtalk](https://devtalk.com/t/humanising-llm-outputs-is-dumb/248727)

4. HumanisingLLMOutputsIsDumb - Cyber Media Creations
5. HumanisingLLMOutputsIsDumb - Avaoroi
6. EvaluatingOutputs
7. Who Validates the Validators? AligningLLM-Assisted Evaluation of…

8. [LLMs Are Dumber Than a House Cat

   Towards Data Science](https://towardsdatascience.com/llms-are-dumber-than-a-house-cat-81e7b3d63190/)

9. [Best Practices and Methods for LLM Evaluation

   Databricks Blog](https://www.databricks.com/blog/best-practices-and-methods-llm-evaluation)

10. My LLM’s outputs got 200% better with this simple trick.

11. [Oh boy. Someone didn’t get the memo that for LLMs, *tokens are units of thinking…

    Hacker News](https://news.ycombinator.com/item?id=47647907)

12. EvaluatingLLMOutputs: How to Know When AI is “Right” and How to…