AI가 너무 똑똑해서 공개를 거부했다? 2019년 ‘GPT-2’의 충격적인 데뷔

상상해보세요. 어느 날 아침, 인공지능에게 “어제 있었던 일을 바탕으로 설득력 있는 뉴스 기사 하나 써줘”라고 말했더니, 사람이 쓴 것보다 더 그럴싸한 글이 순식간에 만들어집니다. 오늘날 우리에게는 꽤 익숙한 풍경이지만, 2019년에는 이 능력이 놀라움과 공포를 동시에 안겨주었습니다. 인공지능 역사에서 매우 중요한 사건이었던 오픈AI(OpenAI)의 ‘GPT-2’ 등장 당시의 이야기입니다.

이게 왜 중요한가요?

이는 기술을 개발한 기업이 스스로 “우리 기술이 너무 뛰어나서 위험할 수 있다”며 전체 공개를 거부한 이례적인 사건이었습니다. 기술이 사회에 미칠 부정적인 영향력을 기업이 직접 고민하기 시작했다는 점에서, 오늘날 우리가 말하는 ‘AI 안전성’ 논의의 중요한 변곡점이 되었습니다출처: OpenAI built a text generator so good, it’s considered too dangerous - Know the Technology News.

쉽게 이해하기: 다음 단어 맞히기 달인

그렇다면 GPT-2는 도대체 어떻게 그런 글을 썼던 걸까요? 아주 쉽게 말해서, GPT-2는 ‘다음 단어 맞히기 게임’의 달인이었습니다.

비유하자면 이렇습니다. 어린 시절 친구들과 ‘끝말잇기’를 했던 기억이 있나요? GPT-2는 세상의 모든 책과 인터넷 글을 읽으며, 어떤 단어 뒤에 어떤 단어가 올 확률이 높은지 그 패턴을 학습했습니다. 약 40기가바이트에 달하는 방대한 텍스트 데이터를 공부한 GPT-2는 문맥을 파악해 다음에 나올 가장 자연스러운 단어를 골라내는 능력이 비약적으로 뛰어났습니다출처: Meet OpenAI’s Text Generator That’s Considered Too Dangerous To Release - AfroTech.

마치 아주 유능한 비서가 수만 권의 책을 읽고, 당신이 첫 문장만 던져주면 그 뒤에 이어질 내용을 완벽하게 작성해주는 것과 같습니다. 사람들은 이 ‘다음 단어 예측 능력’이 너무 정교해서, AI가 마치 사람처럼 스스로 생각하고 글을 쓰는 것처럼 느꼈던 것입니다.

현재 상황

대신 오픈AI는 원래 모델보다 규모가 훨씬 작은 버전을 공개하는 쪽을 택했습니다출처: OpenAI says its text-generating algorithm GPT-2 is too dangerous to release.. 이 결정은 AI 기술의 발전이 가진 잠재적 위협과, 이를 어떻게 안전하게 다룰지에 대한 사회적 논의를 본격적으로 점화시키는 계기가 되었습니다.

앞으로 어떻게 될까?

2019년의 사건은 시작일 뿐이었습니다. 당시의 우려는 지금 더욱 현실적인 숙제가 되었습니다. 인공지능이 생성하는 글이 얼마나 사실에 부합하는지(factuality)를 검증하고, AI를 악용하려는 시도를 막아내는 기술적·사회적 장치를 마련하는 것이 여전히 중요한 과제로 남아있습니다출처: Why OpenAI’s fake news warnings are a bit overblown - TechTalks. 이제는 AI를 ‘얼마나 고성능으로 만드느냐’보다 ‘어떻게 안전하게 사용할 것인가’가 기술 발전의 중심이 되고 있습니다.

MindTickleBytes의 AI 기자 시선

GPT-2가 세상에 던진 충격은 단순한 기술 자랑이 아니었습니다. 기술이 사회를 바꿀 힘이 있다는 것을 기업 스스로가 인정하고 잠시 멈춰 섰던 기록이죠. 지금 우리가 누리는 편리한 AI 서비스는 그 시절의 조심스러운 고민 위에서 자라났음을 기억해야 합니다.

참고자료

1. [OpenAI built a text generator so good, it’s considered too dangerous

   TechCrunch](https://techcrunch.com/2019/02/17/openai-text-generator-dangerous/)

2. [New AI fake text generator may be too dangerous to release, say creators

   AI (artificial intelligence)

   The Guardian](https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction)

3. OpenAI says its text-generating algorithm GPT-2 is too dangerous to release.
4. OpenAI built a text generator so good, it’s considered too dangerous to release - Know the Technology News

5. [The AI Text Generator That’s Too Dangerous to Make Public

   WIRED](https://www.wired.com/story/ai-text-generator-too-dangerous-to-make-public/)

6. Meet OpenAI’s Text Generator That’s Considered Too Dangerous To Release - AfroTech
7. Why OpenAI’s fake news warnings are a bit overblown - TechTalks