AI가 만든 영상, 출처를 밝혀낼 수 있을까요? 'SAGA'의 등장

상상해보세요. 오늘 아침 뉴스에서 본 유명 인사의 영상이 사실은 실제 촬영된 것이 아니라 누군가 AI(인공지능)로 아주 정교하게 만든 영상이라면 어떨까요? 인공지능 기술이 빠르게 발전하면서, 이제는 눈앞의 영상이 ‘진짜’인지 ‘가짜’인지조차 구분하기 어려운 시대를 살고 있습니다. 그동안의 탐지 기술들은 단순히 “이 영상은 가짜다”라고 알려주는 수준에 머물러 있었습니다.

하지만 이제는 그 범인을 잡아낼 수 있는 새로운 도구가 등장했습니다. 바로 ‘SAGA(Source Attribution of Generative AI Videos, 생성형 AI 영상 출처 추적)’라는 기술 프레임워크입니다. [출처: SAGA:SourceAttributionofGenerativeAIVideos, 출처: New tool identifies the sources of fake videos]

이게 왜 중요한가요?

AI 기술의 발전으로 정교한 영상 제작이 쉬워지면서, 이를 악용하는 사례도 늘고 있습니다. 흔히 ‘딥페이크(Deepfake, 인공지능을 이용해 영상 속 인물의 얼굴이나 음성을 바꾸는 기술)’라고 부르는 기술은 이제 현실과 구분이 불가능한 수준까지 도달했습니다.

그동안 우리가 가진 도구는 영상이 AI로 만들어졌는지 판별하는 수준에 그쳤습니다. 하지만 SAGA는 그 영상을 만든 ‘범인(생성 모델)’까지 특정할 수 있습니다. 이는 AI 생성물에 대한 책임을 묻고, 가짜 뉴스가 퍼지는 경로를 추적하며, 나아가 디지털 콘텐츠의 투명성을 높이는 데 매우 중요한 역할을 할 것입니다. [출처: SAGA:SourceAttributionofGenerativeAIVideos]

쉽게 이해하기

SAGA가 어떻게 ‘범인’을 찾을까요? 쉽게 비유하자면 이렇습니다. 같은 풍경화를 그리더라도 화가마다 붓을 잡는 각도나 힘, 선을 긋는 습관이 다르죠? AI 모델도 마찬가지입니다. 영상 생성 AI마다 영상을 만들어낼 때 사용하는 ‘시간적 흐름’이나 ‘미세한 패턴’이 다릅니다.

SAGA는 이를 ‘시간적 주의 서명(T-Sigs, Temporal Attention Signatures)’이라는 방법으로 찾아냅니다. 이는 각 AI 모델이 가진 고유한 특징을 마치 지문처럼 분석하는 기법입니다. [출처: SAGA:SourceAttributionofGenerativeAIVideos, 출처: SAGA:SourceAttributionofGenerativeAIVideos]

쉽게 말해, SAGA는 영상 생성기가 단순히 이미지를 만드는 과정이 아니라, 영상 전체에 걸쳐 시간적인 변화를 만들어내는 ‘나름의 방식’을 시각화하여 분석합니다. 마치 사진 앱의 필터가 다르듯, AI 모델마다 영상에 남기는 고유한 ‘디지털 필터’를 읽어내는 셈이죠. 더 놀라운 점은, SAGA 모델을 만들기 위해 어마어마한 데이터가 필요한 것도 아닙니다. 아주 제한적인 데이터(전체 영상의 0.5% 정도)만 있어도 기존의 AI 탐지기를 미세 조정해 출처를 밝혀낼 수 있습니다. [출처: SolvingAIVideoAttributionwithSAGAModel]

현재 상황

현재 SAGA는 단순한 진위 여부를 넘어 무려 5단계의 정밀한 추적 능력을 보여줍니다.

1. 진위 여부(Authenticity): 사람인가, AI인가?
2. 작업 형태(Generation task): 텍스트로 영상을 만들었는가(T2V), 이미지로 영상을 만들었는가(I2V)?
3. 모델 버전(Model version): 어떤 버전의 AI인가?
4. 개발팀(Development team): 구글, 오픈AI 등 어느 기업의 기술인가?
5. 정확한 생성기(Precise generator): 구체적으로 어떤 엔진인가?

이처럼 훨씬 풍부하고 전문적인 분석 정보를 제공하여 디지털 범죄 수사나 콘텐츠 보안 분야에서 강력한 도구로 활용될 것으로 기대됩니다. [출처: SAGA:SourceAttributionofGenerativeAIVideos, 출처: CVPR Poster SAGA]

앞으로 어떻게 될까?

앞으로 AI 생성 영상은 우리 일상에 더욱 깊숙이 들어올 것입니다. SAGA와 같은 도구가 보편화되면, 최소한 “이 영상이 어디서 왔는지”는 이제 확인하는 것이 당연한 시대가 올지도 모릅니다. 다만, SAGA가 발전함에 따라 AI 모델들 역시 자신의 ‘흔적’을 지우려는 노력을 할 것이며, 기술의 ‘창’과 ‘방패’ 싸움은 계속되겠지요. 독자 여러분은 앞으로 AI 영상을 볼 때, “이건 누가 만들었을까?”라고 한 번쯤 의문을 던져보는 태도가 필요합니다.

MindTickleBytes의 AI 기자 시선

SAGA의 등장은 AI 기술이 단순한 성장을 넘어 ‘사회적 책임’의 단계로 진입했음을 보여줍니다. 결국 기술의 발전만큼 중요한 것은 그 기술이 남긴 발자국을 정직하게 추적할 수 있는 기술적 균형점입니다.

참고자료

1. SAGA: Source Attribution of Generative AI Videos
2. SAGA: Source Attribution of Generative AI Videos

3. [Vue HN 2.0

   Saga: Source Attribution of Generative AI Videos](https://vue-hackernews-ssr-5cavbdjcta-ew.a.run.app/item/49046753)

4. [Solving AIVideo Attribution with SAGA Model

   Vishal Mohanty

   LinkedIn](https://www.linkedin.com/posts/vishal-mohanty_how-do-you-tell-whether-an-ai-generated-video-activity-7469797698653605888-RoqI)

5. SAGA: Source Attribution of Generative AI Videos (arXiv:2511.12834v2)
6. SAGA: Source Attribution of Generative AI Videos (arXiv:2511.12834)
7. SAGA: Source Attribution of Generative AI Videos (EmergentMind)
8. CVPR Poster SAGA: Source Attribution of Generative AI Videos

9. [New tool identifies the sources of fake videos

   UCR News](https://news.ucr.edu/articles/2026/07/24/new-tool-identifies-sources-fake-videos)