스탠퍼드대, AI로 학생 얼굴을 '바꿔치기'했다? AI 정책 위반 논란

상상해보세요. 대학교 홍보 배너에 찍힌 나의 얼굴이, 어느 날 갑자기 다른 인종의 사람으로 바뀌어 있다면 어떤 기분이 들까요? 심지어 나라는 존재는 흔적도 없이 사라지고, 인공지능(AI)이 만들어낸 가상의 인물이 그 자리를 대신하고 있다면 말이죠. 최근 세계 최고의 명문대 중 하나인 스탠퍼드대학교(Stanford University)에서 바로 이런 황당하고도 충격적인 일이 벌어졌습니다.

이게 왜 중요한가요?

이번 사건은 단순히 학교 홍보물의 편집 실수가 아닙니다. 기술이 사람의 정체성을 얼마나 손쉽게 ‘수정’하고 ‘대체’할 수 있는지를 극명하게 보여준 사례이기 때문입니다. Source 1, Source 3 우리가 흔히 사용하는 AI 이미지 편집 도구들이 공공의 영역에서 사용될 때, 과연 어디까지가 ‘보정’이고 어디서부터가 ‘왜곡’인지에 대한 묵직한 질문을 던집니다. Source 6 대학이라는 교육 기관이 스스로 정한 원칙마저 어겨가며 AI를 통해 현실을 ‘편집’하려 했다는 점은 대중들에게 큰 실망감을 안겨주었습니다. Source 6, Source 12

쉽게 이해하기: ‘정체성’의 포토샵인가?

이렇게 비유하면 쉬울 것 같습니다. 과거에는 사진을 찍고 포토샵으로 잡티를 지우는 정도가 편집이었다면, 지금의 생성형 AI(Generative AI, 새로운 데이터를 생성하는 인공지능)는 사진 속 인물을 아예 다른 사람으로 교체하거나 형태를 바꾸는 ‘인격 편집’ 수준까지 가능해졌습니다. Source 1, Source 2

쉽게 말해, 우리가 흔히 스마트폰 사진 앱에서 필터를 씌우는 것처럼, 대학 측은 홍보 효과를 높이기 위해 AI라는 도구를 동원해 학생의 인종, 성별, 얼굴형까지 마음대로 바꿔버린 것입니다. Source 5, Source 10 보도에 따르면, 홍보 배너에 있던 히스패닉 남학생 빌리 라미레즈(Billy Ramirez)는 AI를 통해 존재하지 않는 흑인 여성으로 대체되었습니다. Source 2, Source 7, Source 12 또한 배너에 함께 있던 다른 학생들의 얼굴도 AI 도구를 사용해 실제보다 더 슬림하게 보정되었습니다. Source 4, Source 5, Source 10

현재 상황: 인정과 사과

스탠퍼드대학교는 이러한 사실을 인정했습니다. Source 5, Source 17 문제가 된 홍보물은 학교 내부의 식당(Dining Hall) 홍보 배너였으며, 논란이 일자 대학 측은 해당 홍보물을 즉시 제거하고 공식적으로 사과했습니다. Source 2, Source 17 무엇보다 뼈아픈 지점은 대학 스스로가 만들어 놓은 ‘AI 사용 정책’을 본인들이 정면으로 위반했다는 점입니다. Source 6, Source 12 이번 사건은 교내 학생 신문인 ‘스탠퍼드 리뷰(Stanford Review)’가 의혹을 처음 제기하면서 세간에 알려지게 되었습니다. Source 16, Source 17 피해 당사자인 빌리 라미레즈는 대학의 이러한 조치에 대해 “지워지고 침묵당한 느낌”이라며 강한 유감을 표했습니다. Source 12

앞으로 어떻게 될까?

이번 논란은 전 세계 대학과 기업들에 ‘AI 가이드라인’에 대한 경각심을 심어줄 것으로 보입니다. 생성형 AI가 주는 편리함 뒤에는 ‘현실을 왜곡할 위험’이 항상 도사리고 있기 때문입니다. 앞으로 학교나 기관들은 홍보물에 AI를 도입할 때, 기술적인 완성도뿐만 아니라 ‘윤리적인 원칙’을 어떻게 엄격하게 적용할지 더욱 고심하게 될 것입니다.

MindTickleBytes의 AI 기자 시선

기술의 진보는 우리가 세상과 소통하는 방식을 바꾸지만, 소통의 대상인 ‘사람’ 그 자체를 데이터로 취급해 마음대로 갈아 끼우는 것은 결코 기술의 발전이 아닙니다. 이번 스탠퍼드대의 사례는 AI가 가진 힘만큼이나, 이를 다루는 인간의 책임감이 얼마나 막중한지를 다시 한번 일깨워줍니다.

참고자료

1. Stanford violated its AI policy by turning a Hispanic student …
2. Stanford violated AI policy after race-swapping students in ad
3. Students outraged after Stanford University uses AI to alter …
4. Stanford replaced a Latino man with an AI-generated Black …
5. Stanford University admits AI was used to ‘race swap’ student …
6. Stanford admits to AI race-and-gender swap in doctored student ad
7. Stanford busted using AI to race swap white male student for …
8. Stanford R&DE Uses AI to Race Swap Students for Advertising

9. [StanfordAIphoto alteration leaves Hispanicstudent…

   FoxNews](https://www.foxnews.com/politics/stanford-admits-breaking-own-policy-after-race-gender-swapped-student-photos-emerge)

10. Stanfordapologizes forAI-alteringstudent’sraceand… —AICoverage
11. StanfordviolateditsAIpolicyby turning a Hispanicstudent… - Tildes

12. [StanfordUniversity ApologyAiPhoto

    TikTok](https://www.tiktok.com/discover/stanford-university-apology-ai-photo)