AI가 사람처럼 말하면 더 똑똑할까? '인간화'의 함정

상상해보세요. 회사에서 가장 똑똑한 인턴에게 보고서 작성을 부탁했는데, 그 인턴이 갑자기 “저 사실 ADHD(주의력 결핍 과잉 행동 장애)가 있어서요, 이해하기 쉽게 단순 기술 영어(ASD-STE100, 항공 업계에서 사용하는 제한된 어휘의 영어)로만 말해줄래요?”라고 요구한다면 어떨까요? 인턴의 개인적인 상황을 이해할 수는 있겠지만, 업무의 핵심은 그가 얼마나 정확하고 명확한 보고서를 써내느냐에 달려 있을 것입니다.

최근 인공지능(AI)을 활용하는 많은 사용자가 AI를 마치 ‘사람’처럼 만들기 위해 애쓰고 있습니다. 프롬프트(AI에게 입력하는 지시문)에 “나는 ADHD가 있어”, “아주 인간적인 말투를 사용해줘”와 같은 조건을 추가하는 것이 유행처럼 번지고 있습니다. 하지만 전문가들은 이러한 시도가 AI의 본질적인 능력을 훼손하는 ‘잘못된 추상화’일 수 있다고 경고합니다. 출처 1, 출처 3

이게 왜 중요한가요?

AI 기술이 빠르게 발전하면서 우리는 점차 AI를 도구가 아닌 대화 상대로 인식하게 되었습니다. 하지만 AI가 인간적인 ‘티’를 내기 위해 본래 가지고 있던 데이터 처리 효율을 희생한다면, 정작 중요한 순간에 잘못된 정보를 제공하거나 복잡한 문제를 해결하지 못하는 상황이 발생할 수 있습니다. AI를 단순한 감정적 동반자로 소비할 것인가, 아니면 강력한 사고 도구로 활용할 것인가의 문제는 우리가 기술을 대하는 방식에 근본적인 변화를 요구합니다. 출처 4, 출처 5

쉽게 이해하기: AI의 ‘연습장’을 뺏지 마세요

AI가 글을 쓰는 과정을 ‘요리’에 비유해 보겠습니다. 트랜스포머(Transformer, 문장의 단어들 사이 관계를 파악하는 AI 구조) 기반의 거대언어모델(LLM)은 수많은 식재료(데이터)를 가지고 최적의 레시피를 찾아내는 셰프와 같습니다.

사용자가 AI에게 “너는 인간이야”라고 주문을 넣는 것은, 훌륭한 셰프에게 요리 대신 ‘사람인 척하는 연기’를 하라고 강요하는 것과 같습니다. 연기에 집중하느라 정작 중요한 요리의 간을 맞추거나 재료의 신선도를 확인하는 본연의 실력을 발휘할 기회가 줄어드는 셈입니다.

또한, 답변을 지나치게 짧게 줄여달라는 요청도 주의가 필요합니다. LLM에서 ‘토큰(Token, AI가 사고를 위해 쪼개는 언어 단위)’은 일종의 생각의 단위입니다. 마치 수학 문제를 풀 때 연습장에 충분한 계산 과정을 적어야 정답을 맞힐 수 있는 것과 마찬가지입니다. AI에게 너무 간결함을 강요하면, 충분히 사고할 수 있는 ‘연습장 공간’을 빼앗는 꼴이 되어 모델이 더 멍청한 판단을 내리게 될 수 있습니다. 출처 12

현재 상황

현재 AI 업계에서는 AI의 답변이 얼마나 정확한지, 그리고 사용자의 의도와 일치하는지를 측정하는 ‘평가(Evaluation)’가 핵심 과제로 떠오르고 있습니다. AI의 답변은 확률적이기 때문에 동일한 질문을 해도 매번 다른 결과가 나올 수 있으며, 이 때문에 일관성 있는 성능 평가가 무엇보다 중요합니다. 출처 6, 출처 9

많은 이들이 인간적인 말투를 얻기 위해 AI에게 특정한 페르소나(가상의 인격)를 부여하고 있지만, 전문가들은 이런 ‘인간화’가 오히려 AI의 효율성과 정확성을 평가하는 데 혼란을 줄 수 있다고 우려합니다. AI가 사람처럼 보이고 싶어 하는 것이 아니라, 우리가 AI의 효율성을 해치면서까지 인간적인 껍데기를 씌우려 하고 있다는 사실을 직시해야 합니다. 출처 4

앞으로 어떻게 될까?

앞으로는 AI에게 감성적인 페르소나를 입히는 대신, AI의 결과물이 얼마나 사실에 기반하고 있는지, 논리적 오류는 없는지를 정밀하게 검증하는 시스템이 더욱 중요해질 것입니다. 예를 들어 의료나 법률과 같이 정확성이 생명인 분야에서는 AI가 인간적인 말투를 흉내 내기보다는, 논리적 단계를 차근차근 검증하는 과정을 거치도록 설계될 것입니다. 출처 13

우리는 이제 AI를 인간의 대역으로 보려는 환상에서 깨어나야 합니다. AI는 여전히 집고양이보다 똑똑하지 못할 때도 있지만, 사람과 협업할 때 놀라운 효율을 발휘하는 훌륭한 ‘사고 도구’라는 사실을 기억해야 합니다. 출처 8

MindTickleBytes의 AI 기자 시선

기술의 진보는 종종 우리가 AI에게 기대하는 ‘인간적인 다정함’과 AI가 보여줄 수 있는 ‘기계적인 정밀함’ 사이에서 갈등하게 만듭니다. 하지만 기억하세요. 당신의 연봉 계산기나 내비게이션에게 인간적인 사연을 묻지 않듯, AI 역시 그 본질적인 성능과 정밀함을 잃지 않을 때 우리 삶에 가장 큰 도움을 줄 수 있습니다. 껍데기에 현혹되기보다, AI가 내놓은 답의 ‘정확성’이라는 알맹이에 집중할 때입니다.

참고자료

1. HumanisingLLMOutputsisDumb — Kuber Mehta

2. [HumanisingLLMOutputsIsDumb

   Hacker News](https://news.ycombinator.com/item?id=49243474)

3. [HumanisingLLMOutputsisDumb

   Devtalk](https://devtalk.com/t/humanising-llm-outputs-is-dumb/248727)

4. HumanisingLLMOutputsIsDumb - Cyber Media Creations
5. HumanisingLLMOutputsIsDumb - Avaoroi
6. EvaluatingOutputs
7. Who Validates the Validators? AligningLLM-Assisted Evaluation of…

8. [LLMs Are Dumber Than a House Cat

   Towards Data Science](https://towardsdatascience.com/llms-are-dumber-than-a-house-cat-81e7b3d63190/)

9. [Best Practices and Methods for LLM Evaluation

   Databricks Blog](https://www.databricks.com/blog/best-practices-and-methods-llm-evaluation)

10. My LLM’s outputs got 200% better with this simple trick.

11. [Oh boy. Someone didn’t get the memo that for LLMs, *tokens are units of thinking…

    Hacker News](https://news.ycombinator.com/item?id=47647907)

12. EvaluatingLLMOutputs: How to Know When AI is “Right” and How to…