AI에게 '도덕'을 가르치던 유일한 전문가, OpenAI를 떠났다

상상해보세요. 우리가 매일 사용하는 똑똑한 인공지능(AI)에게 ‘어떤 말이 올바른지’, ‘어떤 결정이 사람들에게 피해를 주지 않을지’를 조언해주는 길잡이가 사라진다면 어떤 일이 벌어질까요? 최근 AI 업계에서 가장 영향력 있는 기업 중 하나인 OpenAI에서 들려온 소식은 많은 이들에게 질문을 던지고 있습니다. OpenAI의 유일한 전담 윤리 책임자(AI ethics lead)였던 클로이 바칼라(Chloé Bakalar)가 회사를 떠났다는 사실이 뒤늦게 알려졌기 때문입니다.

이게 왜 중요한가요?

단순히 한 명의 직원이 퇴사한 것 아니냐고 생각할 수 있습니다. 하지만 이번 소식이 주목받는 이유는 그가 맡았던 역할의 무게 때문입니다. 인공지능이 사람처럼 사고하고 판단하는 시대에 ‘무엇이 옳은가’를 고민하는 윤리 전문가는 기술이 인류에게 안전하게 녹아들도록 만드는 최후의 방어선과 같습니다. 특히 이번 퇴사와 함께 후임자가 명확히 정해지지 않았다는 사실은 OpenAI가 앞으로 AI 모델의 윤리적 접근과 인간과의 상호작용 문제를 어떻게 풀어나갈지에 대해 많은 사용자와 전문가들이 우려하게 만들고 있습니다 Source 1, Source 6.

쉽게 이해하기: ‘브레이크 없는 자동차’

이렇게 비유해볼 수 있습니다. 성능 좋은 스포츠카를 만드는 회사가 있다고 상상해 보세요. 이때 스포츠카가 너무 빨라 사고가 나지 않도록 안전벨트를 매고, 브레이크를 점검하며, 도로 주행 규칙을 정하는 사람이 바로 ‘윤리 전문가’입니다. 클로이 바칼라는 OpenAI라는 거대한 스포츠카가 속도를 낼 때, 그 방향이 올바른지, 보행자(사용자)에게 위험하지 않은지를 검토하는 유일한 책임자였습니다. 그녀는 모델 개발 과정에서 윤리적 기준을 세우고, 기계가 인간과 어떻게 소통해야 하는지, 더 나아가 ‘기계의 의식’이라는 심오한 철학적 주제까지 고민하던 사람이었습니다 Source 1, Source 3. 그런데 이 자동차에서 가장 중요한 안전 점검관이 자리를 비우고, 그 자리가 당분간 채워지지 않는다면 우리는 어떤 마음으로 이 스포츠카에 올라탈 수 있을까요?

현재 상황

보도에 따르면 클로이 바칼라는 2025년 8월에 합류하여 2026년 7월까지 약 1년 미만의 기간 동안 근무했습니다 Source 5, Source 10. 그녀는 이전에도 메타(Meta)에서 수석 윤리 전문가로 활약하며 업계에서 실력을 인정받았던 인물입니다 Source 8. 하지만 아쉽게도 그녀의 퇴사는 대외적으로 크게 공표되지 않았습니다 Source 7, Source 11. 현재까지 확인된 바에 따르면 OpenAI는 그녀의 후임자를 정하지 않았으며, 결과적으로 OpenAI는 현재 전담 윤리 전문가가 부재한 상태로 운영되고 있습니다 Source 4, Source 9. 이번 일은 올해 들어 OpenAI에서 이탈한 세 번째 AI 안전 관련 연구 사례로 꼽히며, 기술 개발의 속도에 비해 내부적인 윤리 조직이 위축되고 있는 것은 아니냐는 외부의 시선을 받고 있습니다 Source 9, Source 11.

앞으로 어떻게 될까?

앞으로 OpenAI가 이 공석을 어떻게 채울지, 혹은 윤리 거버넌스 조직을 어떤 형태로 재편할지는 지켜봐야 할 대목입니다. 사용자의 입장에서는 AI가 점점 더 고도화되는 상황에서, 과연 누가 AI의 안전성을 책임지고 감시할 것인지에 대해 기업이 더 투명하게 소통해주기를 기대하게 됩니다. 기술이 우리 삶에 더 깊숙이 파고들수록, 기술의 ‘빠른 발전’만큼이나 ‘올바른 발전’을 고민하는 이들의 역할은 그 어느 때보다 중요하기 때문입니다.

MindTickleBytes의 AI 기자 시선

기술은 그 자체로 중립적일 수 있지만, 그 기술을 설계하고 배포하는 방식은 결코 중립적일 수 없습니다. 윤리 전문가가 단순히 구색 맞추기가 아닌, 실질적인 브레이크 역할을 하기 위해서는 기업의 강력한 의지가 필요합니다. 지금의 공백이 짧은 준비 기간이기를 바랄 뿐입니다.

참고자료

1. OpenAI’s Only Ethicist Reportedly Left Last Month. She Wasn’t Replaced

2. [OpenAI’s Only Ethicist Reportedly Left Last Month

   Hacker News](https://news.ycombinator.com/item?id=49257160)

3. [Why Did OpenAI’s Head of Ethics Chloé Bakalar Leave?

   AI Magazine](https://aimagazine.com/news/why-did-openai-head-of-ethics-chloe-bakalar-leave)

4. [OpenAI Loses Its Only Ethicist In Under 12 Months, With No Successor

   Yellow](https://yellow.com/news/openai-loses-only-ethicist-12-months)

5. OpenAI’s Only Dedicated Ethicist Has Left With No Replacement: FT

6. [OpenAI’s head of ethics just quit — here’s why ChatGPT users should pay attention

   Tom’s Guide](https://www.tomsguide.com/ai/openais-head-of-ethics-just-quit-heres-why-chatgpt-users-should-pay-attention)

7. OpenAI’s Only Dedicated Ethicist Has Left With No Replacement: FT - Decrypt
8. OpenAI’s head of ethics leaves start-up less than a year after joining
9. OpenAI AI ethics chief resigns within a year of joining, third AI safety researcher to leave this year
10. Who Is Chloe Bakalar? OpenAI’s AI Ethics Lead Resigns Less Than a Year After Joining
11. OpenAI AI ethics chief resigns within a year of joining, third AI safety researcher to leave this year - India Today