AI가 쓴 글에 숨겨진 비밀 낙관? 'AI 워터마크'의 모든 것

상상해보세요. 여러분이 오늘 아침 읽은 흥미로운 뉴스 기사가 사실은 인간 기자가 아니라 인공지능(AI)이 작성한 글이라면 어떨까요? 혹은 소셜 미디어에서 본 감동적인 편지가 사실은 인간의 손을 거치지 않은 AI의 결과물이라면요? 최근 AI 기술이 놀라운 속도로 발전하면서, 우리가 읽는 글이 인간의 창작물인지 AI가 생성한 결과물인지 구분하는 일은 점점 더 어려워지고 있습니다.

이런 상황에서 주목받고 있는 것이 바로 ‘AI 워터마크(Watermarking)’ 기술입니다. 지폐 속에 들어가는 미세한 홀로그램처럼, AI가 생성한 글에 육안으로는 보이지 않는 비밀스러운 낙인을 찍어 “이것은 AI가 쓴 글입니다”라고 알려주는 기술이죠. 오늘은 이 흥미로운 기술이 어떤 원리로 작동하고, 왜 완벽하게 만들기 어려운지 쉽고 명쾌하게 알아보겠습니다.

왜 이 기술이 필요한가요?

AI가 쓴 글을 구분할 수 있다는 것은 매우 중요합니다. 가짜 뉴스가 인터넷을 통해 빠르게 확산하는 것을 막고, AI가 만든 콘텐츠에 대한 저작권을 보호하는 데 큰 도움을 줄 수 있기 때문입니다. 출처: Hacker News

쉽게 말해서, 디지털 시대의 ‘진품 증명서’를 붙이는 셈이죠. 하지만 이 기술을 적용할 때는 까다로운 조건이 붙습니다. 워터마크를 심더라도 AI가 쓴 글이 본래 가지고 있던 자연스러움과 의미를 그대로 유지해야 하며, 사용자가 이 워터마크를 쉽게 탐지하거나 인위적으로 제거할 수 없도록 만들어야 하기 때문입니다. 출처: Watermarked LLMs Offer Benefits

‘비밀 낙인’의 원리: 단어 선택의 마술

워터마크 기술은 AI가 글을 만들 때, 마치 요리사가 재료를 고르듯 특정 단어를 선택하는 방식인 ‘출력 분포’를 아주 미세하게 흔들어 비밀 패턴을 심는 방식을 취합니다. 출처: No free lunch in LLM watermarking 출처: Mark Your LLM

비유하자면, AI가 글을 쓸 때 평소에는 ‘매우’라는 단어를 50% 확률로 썼다면, 워터마크를 넣을 때는 이 확률을 51%로 살짝 조정하는 식입니다. 사람이 읽을 때는 차이를 전혀 느낄 수 없지만, 나중에 전용 탐지기(알고리즘)가 분석하면 “어, 이 글은 특정 단어 선택 패턴이 이상하네?” 하고 AI가 쓴 글임을 바로 알아차리는 것이죠.

사실 텍스트에 워터마크를 심으려는 시도는 거대언어모델(LLM, 대규모 언어 모델)이 등장하기 훨씬 이전부터 있었습니다. 과거에도 문서의 진위 여부를 판별하거나 위변조를 막기 위해 사용되어 왔죠. 출처: Text Watermarking 최근의 AI 워터마크는 이전보다 훨씬 정교하고 통계적인 방식을 사용한다는 점이 다를 뿐입니다.

지금 기술은 어디까지 왔을까요?

그렇다면 이 기술은 완벽할까요? 결론부터 말씀드리면, 아직 갈 길이 멉니다. 카네기멜론대학교(CMU) 연구진은 현재 사용되는 워터마크 설계 방식마다 크고 작은 취약점이 존재한다고 지적합니다. 출처: Watermarked LLMs Offer Benefits

워터마크 기술이 성공하려면 다음 세 가지 목표를 동시에 달성해야 하는데, 이들이 서로 충돌하기 때문입니다. 출처: Watermarked LLMs Offer Benefits

1. 글의 품질: 워터마크가 들어가도 글이 읽기에 자연스럽고 매끄러워야 함.
2. 은밀성: 워터마크가 포함된 것을 일반인이 눈치채지 못해야 함.
3. 견고성: 누군가 글을 약간 바꾸거나 단어를 삭제해도 워터마크가 쉽게 사라지지 않아야 함.

이 세 가지를 완벽하게 만족하는 것은 ‘세 마리 토끼를 다 잡는 것’만큼이나 어렵습니다. 그래서 최근에는 문장을 임의로 삭제하거나 단어를 조금 바꿔도 워터마크를 찾아낼 수 있도록 훨씬 견고하게 설계하는 연구가 진행되고 있습니다. 출처: Can we Watermark Low-Entropy LLM Outputs?

AI 워터마크의 미래

앞으로 AI 기술이 발전할수록, 반대로 워터마크를 제거하거나 우회하려는 기술들도 치열하게 발전할 것입니다. 출처: ChatGPT Watermark Remover 앞으로는 모델이 업데이트될 때마다 워터마크 탐지 방식도 함께 진화해야 할 것이며, AI와 인간이 협업하여 만든 글은 어떻게 인증할 것인지에 대한 사회적 논의도 계속되어야 할 것입니다. 출처: LLM Output Watermarking Engineer

무엇보다 우리가 꼭 기억해야 할 점은, 기술적인 해결책만으로는 충분하지 않다는 사실입니다. 정보의 바다 속에서 우리가 글을 소비할 때, AI가 만든 결과물일 가능성을 염두에 두고 한 번 더 고민해보는 ‘비판적 시각’이야말로 미래를 살아가는 우리에게 가장 필요한 강력한 무기일지도 모릅니다.

MindTickleBytes의 AI 기자 시선

AI의 비밀 낙관 기술은 마치 ‘보이지 않는 서명’과 같습니다. 하지만 기술적 마법으로 모든 것을 해결하려 하기보다는, 인간이 만든 콘텐츠와 AI가 만든 콘텐츠의 경계를 스스로 생각하고 판단하는 능력을 키우는 것이 진정한 미래의 대응책이 아닐까 합니다. 기술은 거들 뿐, 판단은 결국 사람이 하는 것이니까요.

참고자료

1. [Guess which of these LLM outputs is watermarked

   Hacker News](https://news.ycombinator.com/item?id=49374729)

2. [Literature Review] Mark Your LLM: Detecting the Misuse of…
3. No free lunch in LLM watermarking: Trade-offs in watermarking…
4. LLM Output Watermarking Engineer — IT English Interview Practice…
5. Can we Watermark Low-Entropy LLM Outputs?
6. Watermarked LLMs Offer Benefits, but Leading Strategies Come With…

7. [ChatGPT Watermark Remover and Checker

   Remove AI Text…](https://www.gptwatermark.com/)

8. Text Watermarking: “Secret Wars” between the lines