AI像人一样说话会更聪明吗？“拟人化”的陷阱

想象一下。你让公司里最聪明的实习生写一份报告，结果这位实习生突然说：“我其实患有ADHD（注意缺陷多动障碍），能用易于理解的简单技术英语（ASD-STE100，航空业所用的限制性词汇英语）跟我沟通吗？”虽然我们可以理解实习生的个人情况，但工作的核心终究在于他写出的报告是否准确清晰。

最近，许多人工智能（AI）用户都在费尽心思让AI变得像“人”一样。在提示词（Prompt）中加入“我有ADHD”、“请使用非常拟人的语气”等条件正变得非常流行。然而，专家警告称，这种尝试可能是一种“错误的抽象”，会损害AI的本质能力。出处 1, 出处 3

这为什么重要？

随着AI技术的飞速发展，我们逐渐将AI视为对话伙伴而非工具。但如果AI为了表现出“人味儿”而牺牲了原本的数据处理效率，那么在关键时刻，它可能会提供错误信息或无法解决复杂问题。将AI仅仅当作情感慰藉，还是将其作为强大的思考工具，这一问题要求我们从根本上改变看待技术的方式。出处 4, 出处 5

简单易懂：别拿走AI的“草稿纸”

我们把AI写文章的过程比作“烹饪”。基于Transformer（一种识别句子中词语间关系的AI结构）的大语言模型（LLM）就像是一位利用海量食材（数据）寻找最佳食谱的厨师。

用户向AI下单“你就是个人类”，这相当于强迫一位优秀的厨师不去烹饪，而是去表演“模仿人类”。由于把精力都放在了表演上，它发挥出本职水平——即调好味道、确认食材新鲜度——的机会就减少了。

此外，要求回答过于简短也需要警惕。在LLM中，“Token”（AI用于拆解语言以进行思考的单位）就是一种思考单位。就像做数学题时需要足够的演算步骤才能算出正确答案一样，如果强迫AI过于简洁，无异于夺走了它进行充分思考的“草稿纸空间”，从而导致模型做出更愚蠢的判断。出处 12

现状

目前，AI行业正将“评估（Evaluation）”作为核心课题，即衡量AI回答的准确性以及与用户意图的匹配度。由于AI的回答具有概率性，同一个问题每次的结果可能都不同，因此持续且一致的性能评估至关重要。出处 6, 出处 9

尽管许多人为了获得人类化的语气而给AI设定特定的人格（Persona），但专家担心这种“拟人化”反而会干扰对AI效率和准确性的评估。我们应该正视一个事实：不是AI想看起来像人，而是我们正在为了强加一层人类化的外壳，而损害AI的效率。出处 4

未来趋势

未来，比起给AI披上情感人格，建立精密的验证系统来确认AI结论是否基于事实、是否存在逻辑谬误将变得更加重要。例如，在医疗或法律等要求绝对准确的领域，AI的设计将不再是模仿人类语气，而是通过一步步验证逻辑链条来输出答案。出处 13

我们应当从将AI视为人类替身的幻觉中醒来。尽管AI有时表现得甚至不如家猫聪明，但我们必须记住，当它与人类协作时，它是能够发挥惊人效率的优秀“思考工具”。出处 8

MindTickleBytes AI记者视角

技术的进步往往让我们在对AI的“人类式温情”期望与AI能展现的“机械式精密”之间感到纠结。但请记住，就像你不会向薪资计算器或导航仪询问人生感悟一样，AI也只有在不丢失其本质性能与精密性的前提下，才能最大限度地帮助我们的生活。比起被外壳所迷惑，现在是时候专注于AI答案中名为“准确性”的核心内核了。

参考资料

1. HumanisingLLMOutputsisDumb — Kuber Mehta

2. [HumanisingLLMOutputsIsDumb

   Hacker News](https://news.ycombinator.com/item?id=49243474)

3. [HumanisingLLMOutputsisDumb

   Devtalk](https://devtalk.com/t/humanising-llm-outputs-is-dumb/248727)

4. HumanisingLLMOutputsIsDumb - Cyber Media Creations
5. HumanisingLLMOutputsIsDumb - Avaoroi
6. EvaluatingOutputs
7. Who Validates the Validators? AligningLLM-Assisted Evaluation of…

8. [LLMs Are Dumber Than a House Cat

   Towards Data Science](https://towardsdatascience.com/llms-are-dumber-than-a-house-cat-81e7b3d63190/)

9. [Best Practices and Methods for LLM Evaluation

   Databricks Blog](https://www.databricks.com/blog/best-practices-and-methods-llm-evaluation)

10. My LLM’s outputs got 200% better with this simple trick.

11. [Oh boy. Someone didn’t get the memo that for LLMs, *tokens are units of thinking…

    Hacker News](https://news.ycombinator.com/item?id=47647907)

12. EvaluatingLLMOutputs: How to Know When AI is “Right” and How to…