AIが人間のように話すと賢くなるのか？「人間化」の罠

想像してみてください。会社で最も優秀なインターンに報告書の作成を頼んだところ、そのインターンが突然「実はADHD（注意欠陥・多動性障害）があるので、理解しやすいように単純技術英語（航空業界で使用される制限語彙の英語、ASD-STE100）だけで話してくれませんか？」と要求してきたらどう思いますか？インターンの個人的な状況は理解できても、業務の本質は、彼がいかに正確で明確な報告書を作成できるかにかかっています。

最近、AIを活用する多くのユーザーがAIを「人間」らしくするために工夫を凝らしています。プロンプト（AIへの指示文）に「私はADHDです」「非常に人間味のある口調で話して」といった条件を加えるのが流行しています。しかし専門家は、こうした試みはAIの本来の能力を損なう「間違った抽象化」になり得ると警告しています。 出典 1, 出典 3

なぜこれが重要なのか？

AI技術が急速に進化するにつれ、私たちは徐々にAIを単なるツールではなく会話相手として認識するようになりました。しかし、AIが人間らしい「雰囲気」を出すために本来持っているデータ処理効率を犠牲にすれば、いざという時に誤った情報を提供したり、複雑な問題を解決できなかったりする状況が発生しかねません。AIを単なる感情的な伴侶として消費するのか、それとも強力な思考ツールとして活用するのかという問題は、私たちがテクノロジーと向き合う姿勢に根本的な変化を求めています。 出典 4, 出典 5

分かりやすく言うと：AIから「練習帳」を奪わないで

AIが文章を書くプロセスを「料理」に例えてみましょう。Transformer（文中の単語間の関係性を把握するAI構造）に基づく大規模言語モデル（LLM）は、膨大な食材（データ）を使って最適なレシピを見つけ出すシェフのようなものです。

ユーザーがAIに「あなたは人間だ」と注文をつけることは、優れたシェフに対して料理ではなく「人間であるかのような演技」を強要することに似ています。演技に集中するあまり、料理の味を整えたり食材の鮮度を確認したりするという、シェフとしての本来の実力を発揮する機会が失われてしまうのです。

また、回答を過度に短くするように求める際も注意が必要です。LLMにおいて「トークン（AIが思考のために分割する言語単位）」は、いわば思考の単位です。数学の問題を解く時に、練習帳に十分な計算プロセスを書かなければ正解にたどり着けないのと同じです。AIに簡潔さを強要しすぎることは、十分に思考するための「練習帳のスペース」を奪うことになり、結果としてモデルがより拙い判断を下すことにつながりかねません。 出典 12

現状

現在AI業界では、AIの回答がいかに正確で、ユーザーの意図と合致しているかを測定する「評価（Evaluation）」が重要な課題として浮上しています。AIの回答は確率的なため、同じ質問をしても毎回異なる結果が出る可能性があり、このため一貫性のある性能評価が何よりも重要となっています。 出典 6, 出典 9

人間味のある口調を得るためにAIに特定のペルソナ（仮想の人格）を付与する動きが目立ちますが、専門家は、こうした「人間化」がかえってAIの効率性と正確性を評価する上で混乱を招くと懸念しています。AIが人間らしく振る舞いたがっているのではなく、人間がAIの効率を犠牲にしてまで人間的な皮を被せようとしているという事実を直視しなければなりません。 出典 4

今後の展望

今後はAIに情緒的なペルソナを与えるのではなく、AIの結果がどれほど事実に立脚しているか、論理的なエラーはないかを精緻に検証するシステムが一層重要になるでしょう。例えば、医療や法律のように正確性が生命線となる分野では、AIが人間らしい口調を真似るのではなく、論理的なステップを一つずつ検証するプロセスを通るよう設計されるはずです。 出典 13

私たちは今、AIを人間の代役として見ようとする幻想から目覚めるべきです。AIは時に家猫よりも賢くないこともありますが、人間と協働する際には驚くべき効率を発揮する優れた「思考ツール」であるという事実を忘れてはなりません。 出典 8

MindTickleBytesのAI記者による視点

技術の進歩は、私たちがAIに期待する「人間らしい優しさ」と、AIが見せられる「機械的な精密さ」の間で葛藤させることがあります。しかし覚えておいてください。あなたの年収計算機やカーナビに対して、人間らしい身の上話を尋ねたりはしないでしょう。AIも同様に、その本質的な性能と精密さを失わない時こそ、私たちの人生に最も大きな貢献をしてくれるのです。表面的な装飾に惑わされるよりも、AIが出した答えの「正確性」という中身に集中すべき時です。

参考資料

1. HumanisingLLMOutputsisDumb — Kuber Mehta

2. [HumanisingLLMOutputsIsDumb

   Hacker News](https://news.ycombinator.com/item?id=49243474)

3. [HumanisingLLMOutputsisDumb

   Devtalk](https://devtalk.com/t/humanising-llm-outputs-is-dumb/248727)

4. HumanisingLLMOutputsIsDumb - Cyber Media Creations
5. HumanisingLLMOutputsIsDumb - Avaoroi
6. EvaluatingOutputs
7. Who Validates the Validators? AligningLLM-Assisted Evaluation of…

8. [LLMs Are Dumber Than a House Cat

   Towards Data Science](https://towardsdatascience.com/llms-are-dumber-than-a-house-cat-81e7b3d63190/)

9. [Best Practices and Methods for LLM Evaluation

   Databricks Blog](https://www.databricks.com/blog/best-practices-and-methods-llm-evaluation)

10. My LLM’s outputs got 200% better with this simple trick.

11. [Oh boy. Someone didn’t get the memo that for LLMs, *tokens are units of thinking…

    Hacker News](https://news.ycombinator.com/item?id=47647907)

12. EvaluatingLLMOutputs: How to Know When AI is “Right” and How to…