내 ChatGPT 계정이 해킹당했다고? 연구원들이 직접 보여준 보안의 빈틈

상상해보세요. 어느 날 아침, 평소처럼 ChatGPT에게 “오늘 일정 정리해줘”라고 입력했는데, AI가 엉뚱한 대답을 하거나 내 개인 정보가 섞인 알 수 없는 문장을 내뱉는다면 어떨까요? 단순히 ‘AI가 또 실수를 하네’라고 넘길 문제가 아닐 수도 있습니다. 최근 보안 업계에서 실제 벌어진 일은 우리 일상의 필수품이 된 AI 서비스의 보안이 생각보다 가까운 곳에서 위협받고 있음을 시사합니다.

이게 왜 중요한가요?

ChatGPT는 전 세계 7억 명의 사용자를 보유한 대표적인 AI 모델입니다. 비즈니스 인사이더(Business Insider) 이제 많은 이들이 업무 자료를 요약하고, 이메일을 작성하며, 심지어 개인적인 고민까지 AI와 나누고 있습니다. 만약 이 서비스의 계정이 해킹당한다면 단순히 개인적인 대화 내용이 유출되는 것을 넘어섭니다. 공격자가 AI를 통해 내 계정 권한으로 외부 서비스와 직접 통신하거나, 기업의 내부 시스템에 침입하는 위험한 통로가 될 수 있기 때문입니다.

이번에 드러난 보안 이슈는 단순히 ‘비밀번호를 바꿀까?’라는 차원을 넘어섭니다. AI라는 거대한 기술을 지탱하는 기반 시스템 자체가 공격자들에게 새로운 ‘사냥터’가 되고 있다는 경고음이기 때문입니다.

쉽게 이해하기: 보안의 ‘작은 틈새’

보안 전문가들은 이번 사건을 두고 “두 개의 취약점(보안상의 약점)을 연결했다”라고 표현합니다. 더 레지스터(The Register)

쉽게 비유하자면 이렇습니다. 아무리 단단한 철문으로 된 현관문을 잠가두어도(첫 번째 보안), 바로 옆에 아주 작은 창문이 열려 있다면(두 번째 취약점) 누군가 그 틈을 비집고 들어올 수 있는 것과 같은 이치입니다. 연구원들은 이처럼 시스템 곳곳에 숨겨진 작은 틈새들을 하나씩 찾아내어, 마치 퍼즐 조각을 맞추듯 연결해 결국 ‘관리자 권한’이라는 큰 문을 연 것입니다.

‘패러미터 AI 랩스(Parameter AI Labs)’의 보고서에 따르면, 이렇게 탈취된 계정은 실제 사용자인 척하며 ChatGPT의 인증된 API(응용 프로그램 프로그래밍 인터페이스, 소프트웨어 간의 대화 창구)를 마음대로 호출할 수 있었습니다. 패러미터 AI 랩스(Parameter.ai) 즉, 공격자가 내가 되어 AI를 내 마음처럼 부리는 셈이죠. 연구원들은 실제로 이 권한을 이용해 OpenAI 내부 시스템에 접근하고, 소프트웨어를 수정하는 요청인 ‘풀 리퀘스트(Pull Request)’를 생성하는 시연까지 성공했습니다. 더 레지스터(The Register)

현재 어디까지 왔나

물론 OpenAI 역시 이러한 보안 위험을 아주 심각하게 인지하고 대응하고 있습니다. 과거에는 국가가 지원하는 해킹 그룹들이 ChatGPT를 이용해 악성 코드를 정교하게 만들거나, 채용 사기, 허위 정보 유포 등의 불법 행위를 저지르는 사례가 발견되어 관련 계정을 대규모로 정지시킨 바 있습니다. 더 레코드(The Record)

하지만 이번처럼 연구 목적의 ‘화이트 해커(선의의 보안 연구원)’들이 회사의 시스템 내부까지 파고든 사례는 우리에게 더 큰 숙제를 던져줍니다. 이번 공격은 특히 OpenAI 내부 직원들의 계정을 타깃으로 했으며, 보안의 작은 빈틈이 얼마나 치명적인 결과를 가져올 수 있는지를 여실히 증명했습니다. 시프린지 다키카(Sıfırıncı Dakika)

앞으로 어떻게 될까

이번 사건은 AI 기업들에게 ‘보안은 선택이 아닌 생존’이라는 점을 다시 한번 각인시켰습니다. 앞으로 기업들은 AI 모델의 지능을 높이는 것만큼이나, 그 모델을 사용하는 사용자들의 계정과 시스템의 뒷문을 얼마나 튼튼하게 잠글지에 사활을 걸 것입니다.

그렇다면 일반 사용자들은 무엇을 할 수 있을까요? 의심스러운 로그인 알림이 오면 절대 무시하지 말고 바로 확인해야 합니다. 또한, 가능한 경우 ‘이중 인증(2FA, 로그인 시 비밀번호 외에 추가로 확인 과정을 거치는 보안 방식)’을 반드시 설정하세요. 이것만으로도 공격자들이 노리는 ‘첫 번째 문’을 아주 효과적으로 막아낼 수 있습니다.

AI는 이제 우리 삶에서 떼려야 뗄 수 없는 일부분이 되었습니다. 기술이 편리해지는 속도만큼, 우리를 보호하는 기술의 속도도 더 빨라져야 할 때입니다.

참고자료

1. Do the Math: HowWeTookOverChatGPTAccounts- Parameter

2. [AraştırmacılarChatGPThesaplarını ele geçirdiğini…

   Sıfırıncı Dakika](https://sifirincidakika.com/haber/arastirmacilar-chatgpt-hesaplarini-ele-gecirdigini-acikladi)

3. OpenAI takes down ChatGPT accounts linked to state-backed hacking
4. Researchers used Claude to hack OpenAI employees’ ChatGPT accounts
5. ChatGPT: Everything You Need to Know About… - Business Insider