사용자가 AI의 내부 추론 과정인 '사고의 사슬(Chain of Thought)'을 시각적으로 확인하고, 그 중간 단계를 직접 수정해 AI의 최종 답변을 원하는 방향으로 유도할 수 있는 새로운 도구가 공개되었습니다.
상상해보세요. 당신이 AI 비서에게 “바다와 관련된 기호를 설명해줘”라고 부탁했습니다. AI는 잠시 고민하더니 ‘파도’라는 답변을 내놓습니다. 그런데 그 ‘파도’라는 단어를 고르기까지 AI의 머릿속에서는 어떤 일이 벌어졌을까요? 이전까지 우리는 AI가 내놓은 최종 결과물만 확인할 수 있었습니다. 마치 시험 문제의 정답만 보고, 그 학생이 풀이 과정에서 어떤 논리적 오류를 범했는지 알 수 없는 것과 같았죠.
그런데 최근 기술 커뮤니티 ‘해커 뉴스(Hacker News)’에서 AI의 이런 ‘블랙박스(내부 작동 원리를 알 수 없는 상태)’를 투명하게 들여다볼 수 있게 해주는 흥미로운 웹 도구가 공개되어 큰 화제를 모으고 있습니다 출처: Show HN: I built a web tool to see and edit what an AI thinks before it answers 출처: hckr news - Hacker News sorted by time.
이게 왜 중요한가요?
AI는 이제 우리 일상 곳곳에 들어와 있습니다. 하지만 AI가 왜 그런 답변을 내놓았는지, 혹시 논리적인 비약은 없는지 확인하기는 매우 어렵습니다. 이 도구는 사용자가 AI의 ‘생각의 실타래’를 직접 눈으로 확인하고, 심지어는 그 실타래를 다시 짜맞출 수 있게 해줍니다 출처: Show HN: I built a web tool to see and edit what an AI thinks before it answers. 이는 AI를 단순히 일방적으로 명령을 수행하는 도구가 아니라, 우리가 직접 논리 과정을 교정하며 협업할 수 있는 파트너로 바꿀 수 있다는 점에서 큰 의미가 있습니다.
쉽게 이해하기: AI도 ‘풀이 과정’이 필요하다
이 기술을 이해하려면 ‘사고의 사슬(Chain of Thought, AI가 논리적 결론에 도달하기 위해 거치는 중간 단계의 추론 과정)’이라는 개념을 알아야 합니다 출처: Show HN: I built a web tool to see and edit what an AI thinks before it answers.
쉽게 비유하면, 수학 문제를 풀 때 답만 적는 것이 아니라 복잡한 식을 단계별로 전개하는 것과 같습니다. AI에게 “바다를 상징하는 기호를 묘사해줘”라고 요청하면, AI는 즉시 ‘파도’라고 답하는 것이 아닙니다. 내부적으로 ‘바다’, ‘물결’, ‘해안’, ‘곡선’ 같은 다양한 연상 단어들을 순차적으로 검토하며 논리를 쌓아갑니다.
이번에 공개된 도구는 AI가 이런 단어들을 선택해 나가는 과정을 마치 불빛이 켜지는 것처럼 시각적으로 보여줍니다 출처: ShowHN:IbuiltawebtooltoseeandeditwhatanAIthinks…. 신기한 점은 여기서 그치지 않습니다. AI가 중간에 잘못된 논리의 길로 빠지려 할 때, 사용자가 그 단계의 내용을 직접 편집하여 수정할 수 있습니다 출처: Show HN: I built a web tool to see and edit what an AI thinks before it answers. 예를 들어, AI가 ‘바다’를 생각할 때 ‘호수’로 생각의 방향을 바꾸도록 개입하면, AI는 그 수정된 논리를 바탕으로 최종 답변을 다시 만들어냅니다.
현재 상황
현재 이 도구는 독립적인 개발자에 의해 공개되었으며, 누구나 자신의 질문을 입력해 AI가 답변하기 전 어떤 생각을 하는지 실험해 볼 수 있습니다 출처: ShowHN:IbuiltawebtooltoseeandeditwhatanAIthinks….
다만, 이 기술은 아직 초기 단계입니다. 모든 대규모 언어 모델(LLM, 방대한 양의 데이터를 학습해 인간처럼 언어를 이해하고 생성하는 AI 모델)에 적용되는 범용적인 표준이라기보다는, 특정 모델의 추론 과정을 들여다보고 개입하는 방식에 가깝습니다. 그럼에도 불구하고 AI의 내부 연산 과정을 투명하게 시각화하고 제어하려는 시도는 소프트웨어 엔지니어들이 AI의 결과물을 신뢰할 수 있는지 검증하는 방식에 큰 변화를 줄 것으로 보입니다 출처: Reflections on AI at the End of 2025.
앞으로 어떻게 될까?
앞으로는 우리가 AI에게 단순히 “글을 써줘”라고 명령하는 것을 넘어, AI가 글을 쓰는 과정에서 어떤 논리적 단계를 밟고 있는지 실시간으로 모니터링하고 가이드를 주는 방식이 일반화될 수 있습니다. 만약 AI가 편향된 정보를 기반으로 추론하고 있다면, 사용자가 그 추론 단계를 즉시 바로잡아 더 공정하고 정확한 결과를 얻게 될 것입니다. 이는 AI의 ‘지능’을 우리가 얼마나 세밀하게 조율하고 함께 성장시킬 수 있는지를 보여주는 기술적 진보가 될 것입니다.
AI의 한마디
AI는 지금도 빠르게 진화하고 있지만, 여전히 그 내부 구조는 복잡한 미로와 같습니다. 이렇게 우리가 AI의 생각 과정을 직접 들여다보고 교정할 수 있게 된다면, AI는 더 이상 두려운 기술이 아니라 가장 정밀하고 믿음직한 나의 파트너가 될 수 있을 것입니다.
참고자료
- AI가 생성한 이미지를 편집한다
- AI의 내부 추론 단계인 '사고의 사슬'을 확인하고 편집한다
- 사용자의 개인 정보를 자동으로 보호한다
- 사고의 사슬 (Chain of Thought)
- 자동 학습 (Auto Learning)
- 이미지 렌더링
- AI가 작동을 멈춘다
- 최종 답변의 방향을 사용자가 원하는 대로 유도할 수 있다
- AI의 학습 데이터가 완전히 삭제된다