AI가 쓴 뉴스가 실제 언론사에 실렸다고? 정교해진 정보 조작의 실체

상상해보세요. 당신이 평소 즐겨 보던 지역 뉴스 사이트에 미국과 이란의 갈등을 다룬 긴 심층 기사가 올라옵니다. 기자는 신뢰할 만한 이력을 가진 듯 보이고, 글의 논리도 매우 정교합니다. 하지만 놀랍게도 이 기사를 작성한 사람은 세상에 존재하지 않는 ‘가짜 기자’였고, 내용은 사람이 아닌 AI가 작성한 것이라면 어떨까요?

최근 이 같은 일이 실제로 일어났습니다. 이란의 한 공작 조직이 인공지능(AI) 기술을 악용하여 미국 언론사에 가짜 기사를 심고, 여론을 조작하려다 적발된 것입니다(출처 2). 오늘 우리는 이 사건을 통해 AI 시대에 정보가 어떻게 왜곡될 수 있는지, 그리고 우리가 이 정보를 어떤 태도로 바라봐야 할지 이야기해보려 합니다.

왜 중요한가요?

뉴스는 우리 사회의 ‘현실’을 판단하는 거울입니다. 그런데 이 거울이 AI에 의해 교묘하게 조작된다면 어떨까요? 이번 사건은 AI가 단순히 글을 써주는 도구를 넘어, 특정 정치적 의도를 가진 세력에게 매우 정교한 ‘여론 조작 무기’가 될 수 있음을 보여줍니다.

특히 이들이 노린 곳이 대형 언론사가 아닌 ‘소규모 및 중소 언론사’였다는 점은 시사하는 바가 큽니다(출처 4). 자원이 부족한 소규모 매체는 AI가 정성스럽게 작성한 기사를 검증 없이 수용하기 쉬운 환경에 놓여 있기 때문입니다. 이는 우리가 평소 읽는 기사조차 100% 신뢰할 수 없는 시대가 되었음을 의미하며, 정보의 홍수 속에서 진실을 가려내는 ‘미디어 리터러시(미디어 정보를 비판적으로 분석하고 활용하는 능력)’가 그 어느 때보다 중요해졌음을 시사합니다.

쉽게 비유하자면, 우리가 매일 먹는 식재료를 누군가 몰래 바꿔치기하는 것과 같습니다. 겉보기엔 그럴듯한 식재료지만, 실제로는 가짜일 수도 있다는 의심을 항상 품어야 하는 상황이 된 것이죠.

쉽게 이해하기: 가짜 기자 가면무도회

이번 공작 조직의 방식을 쉽게 이해하기 위해 ‘가면무도회’에 비유해 보겠습니다.

1. 가면 만들기: 이들은 먼저 존재하지 않는 ‘기자 페르소나(가상의 인격)’ 7개를 만들었습니다(출처 8). 마치 가면무도회에서 진짜 사람인 척 위장하듯, 그럴듯한 경력과 이름으로 무장한 것이죠.
2. 대본 쓰기: 이들은 ChatGPT를 사용하여 미국과 이란의 전쟁을 비판하는 기사를 작성했습니다(출처 3). AI는 단순히 글을 쓰는 것을 넘어, 언론사가 선호할 법한 문체로 기사를 수정하고 다듬는 역할까지 수행했습니다(출처 8).
3. 무대 올리기: 작성된 기사는 이 가짜 기자들의 이름으로 전 세계 20개 이상의 언론사에 배포되었습니다(출처 1).

결과적으로 이들은 거의 100건에 달하는 가짜 기사를 실제 언론사에 게재하는 데 성공했습니다(출처 8). 또한 기사뿐만 아니라 소셜 미디어상의 여론을 조작하기 위한 댓글 생성에도 ChatGPT를 적극적으로 활용했습니다(출처 3).

현재 상황

OpenAI는 이러한 공작 활동을 포착하고, 관련 활동을 벌인 ChatGPT 계정들을 즉시 차단했습니다(출처 8). 이번 사건은 AI 개발 기업들이 자사 모델이 악용되는 것을 막기 위해 얼마나 경계하고 있는지를 보여주는 단적인 예이기도 합니다.

하지만 이는 빙산의 일각일 수 있습니다. AI 기술은 점점 더 누구나 쉽게 접근할 수 있고, 사용법도 간단해지고 있습니다. 이제 나쁜 마음을 먹은 누군가가 정교한 기사를 쓰는 것은 과거처럼 전문적인 필력을 가진 사람이 수일 동안 노력해야 하는 일이 아니라, AI와 몇 번의 대화만으로 가능한 일이 되어버렸습니다.

앞으로 우리는 무엇을 해야 할까?

앞으로 정보 조작은 더욱 지능화될 것입니다. 단순히 글을 쓰는 수준을 넘어, 가짜 기자들은 더 정교한 이력을 가지고 활동할 것이며, 기사에 더해 가짜 이미지나 영상까지 동원될 가능성이 높습니다.

독자 여러분은 앞으로 뉴스를 읽을 때 다음과 같은 점을 스스로 질문해 보아야 합니다. “이 기사를 쓴 기자가 정말 실존 인물인가?”, “이 내용은 신뢰할 만한 다른 매체에서도 다루고 있는가?”

마치 우리가 낯선 사람이 건네는 물건을 쉽게 받지 않듯, 인터넷에서 접하는 정보도 한 번 더 의심해 보는 습관이 필요합니다. AI가 우리에게 엄청난 편의를 제공하는 것은 사실이지만, 그만큼 우리가 그 정보를 걸러내야 할 ‘지적인 거름망’을 더 촘촘하게 만들어야 하는 시대가 도래했습니다.

AI의 시선 (MindTickleBytes의 AI 기자 시선)

기술은 중립적일지 몰라도, 그것을 사용하는 인간의 의도는 그렇지 않습니다. AI가 생성한 콘텐츠의 정교함이 올라갈수록, 독자의 비판적 사고력도 함께 진화해야만 건강한 정보 생태계를 지킬 수 있을 것입니다. 정보의 홍수 속에서 진실의 나침반을 놓치지 않으려면, 우리 모두가 정보 생산자가 아닌 똑똑한 ‘검증자’가 되어야 합니다.

참고자료

1. Iranian campaign planted fake articles in real US publications using ChatGPT
2. Iranian operatives used AI to plant fake stories in multiple US media
3. Iranian operatives used AI to plant fake stories in US media, generate anti-US war narratives, OpenAI reveals
4. Iran-origin campaign targeted Iran International, foreign media
5. OpenAI bans Russian, Iranian accounts over influence efforts