AI 안전 연구원들이 해고되었다? OpenAI에서 벌어진 갈등의 진실

상상해보세요. 여러분이 어떤 대형 프로젝트의 안전성을 검사하는 책임자라고 가정해봅시다. 그런데 회사가 더 빨리 결과물을 출시하라고 압박하고, 그 과정에서 안전 점검을 건너뛰려는 움직임을 보인다면 여러분은 어떻게 하시겠습니까? 회사의 문제를 지적하며 경고를 하던 도중, 갑자기 회사로부터 “회사 비밀을 유출했다”는 이유로 해고 통보를 받는다면 어떤 기분이 들까요?

최근 인공지능(AI) 업계에서 가장 뜨거운 논란이 바로 OpenAI 내부에서 벌어지고 있습니다. 인류의 미래를 좌우할 수 있는 강력한 기술을 개발하는 OpenAI에서, 안전을 담당하던 핵심 연구원 3명이 연이어 해고되는 사건이 발생했기 때문입니다. OpenAI fires 3 safety researchers in dispute over AI risks

이게 왜 중요한가요?

이 사건이 우리 같은 일반인들에게 중요한 이유는 우리가 매일 사용하는 AI 서비스가 어떤 ‘가치관’을 바탕으로 만들어지는지를 그대로 보여주기 때문입니다. OpenAI는 본래 ‘인류에게 이로운 AI’를 만들겠다고 선언하며 탄생한 곳입니다. OpenAI fires three safety researchers amid dispute over AI risks

하지만 이번 해고 사태는 기업이 성장을 쫓는 과정에서 AI의 위험성을 경고하는 내부의 목소리를 어떻게 대하는지 적나라하게 드러냈습니다. AI가 우리의 일자리를 바꾸고 일상을 편리하게 만드는 지금, 그 기술의 뒤에 숨겨진 ‘안전’에 대한 고민이 위협받고 있다는 신호탄일 수 있기에 우리는 이 상황을 주목해야 합니다.

쉽게 이해하기: ‘브레이크’와 ‘액셀’의 갈등

쉽게 말해서, 이번 사건은 자동차의 ‘브레이크’와 ‘액셀’ 사이에서 벌어진 갈등으로 비유할 수 있습니다.

자동차가 목적지에 빨리 도달하려면 당연히 액셀이 필요합니다. 현재 OpenAI는 AI라는 강력한 자동차를 타고 시장이라는 도로 위를 엄청난 속도로 달리고 있습니다. 그런데 이 AI라는 차는 너무나 강력해서, 자칫하면 큰 사고를 낼 위험을 안고 있죠. 그래서 ‘안전 연구원’들은 이 차가 제어할 수 없는 속도로 달리지 않도록 적절한 때에 브레이크를 밟아야 한다고 주장하는 사람들입니다. OpenAI fires 3 safety researchers in dispute over AI risks

하지만 기업은 시장에서 경쟁자들보다 앞서 나가야 한다는 상업적인 이유로 계속해서 액셀을 밟기를 원합니다.

이번에 해고된 연구원들은 회사가 안전 연구를 수행하는 과정에서 나온 내부 데이터를 외부 안전 그룹과 공유했다는 이유로 ‘신뢰 위반(breach of trust)’ 혐의를 받았습니다. OpenAI cuts ties with 3 safety researchers, WSJ reports 조사 결과에 따르면, 해고된 연구원 중 한 명은 METR(AI 안전 관련 외부 평가 단체)의 해킹 조사와 관련된 업무를 하던 중 회사의 연락책 역할을 했던 것으로 알려졌습니다. OpenAI Fires 3 Safety Researchers Over Shared Data

즉, 연구원들은 ‘공익을 위해 정보를 투명하게 다뤄야 한다’고 믿었고, 회사는 이를 ‘기업의 기밀을 무단으로 유출한 행위’라고 규정한 것입니다. OpenAI fires three safety researchers over alleged breach of trust

현재 상황

현재 양측의 입장은 팽팽하게 맞서고 있습니다.

• OpenAI의 입장: 공식적으로 연구원들이 회사의 ‘민감한 정보(sensitive information)’를 부적절하게 다루었기 때문에 해고했다고 주장합니다. OpenAI fires workers for ‘mishandling sensitive information’ 이는 명백한 내부 정책 위반이라는 논리입니다. OpenAI fires 3 safety researchers in dispute over AI risks
• 연구원들의 입장: 해고된 연구원들은 공개 서한을 통해 자신들의 해고가 매우 ‘의심스러운 상황(suspicious circumstances)’에서 이루어졌으며, 회사가 AI 안전에 집중하려는 자신들을 보복성으로 해고했다고 맞서고 있습니다. OpenAI fires 3 researchers, laid off employees say they chose safety…

일부 업계 관계자들은 이번 사태가 OpenAI 내부의 다른 안전 연구원들 사이에 위축되는 분위기를 조성할 수 있다고 크게 우려하고 있습니다. Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect

앞으로 어떻게 될까?

AI 기술이 인류에게 실존적 위험(existential risk, 인류가 생존할 수 없을 정도의 큰 위협)이 될 수 있다는 논의는 최근 몇 달간 더욱 거세지고 있습니다. OpenAI fires 3 safety researchers in dispute over AI risks 이번 사태를 계기로 우리는 앞으로 두 가지 핵심 관전 포인트를 주목해야 합니다.

첫째, 기업 내부의 AI 안전 연구가 과연 기업의 눈치를 보지 않고 얼마나 독립성을 보장받을 수 있을 것인가 하는 문제입니다. 둘째, AI 모델의 안전성을 평가하는 외부 단체와의 협력이 앞으로 얼마나 투명하고 원활하게 진행될 수 있을지입니다. OpenAI Fires Safety Researchers as Confidentiality and AI Oversight…

우리는 앞으로 AI가 얼마나 ‘똑똑해지는지’에만 관심을 가질 것이 아니라, 그 똑똑함을 안전하게 통제하려는 ‘사람들의 목소리’가 기업 내부에서 제대로 들리고 있는지 더 주의 깊게 지켜봐야 할 것입니다. 기술의 발전 속도만큼이나 중요한 것은 결국 우리가 안전하게 그 기술을 사용할 수 있느냐는 것이니까요.

참고자료

1. OpenAI fires 3 safety researchers in dispute over AI risks
2. OpenAI fires three safety researchers amid dispute over AI risks
3. Google News - OpenAI fires three employees for allegedly…
4. OpenAI Fires 3 Safety Researchers Over Shared Data
5. Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect
6. OpenAI fires workers for ‘mishandling sensitive information’
7. OpenAI Fires Safety Researchers as Confidentiality and AI Oversight…
8. OpenAI fires 3 safety researchers in dispute over AI risks
9. OpenAI fires 3 safety researchers in dispute over AI risks
10. OpenAI fires 3 safety researchers in dispute over AI risks
11. OpenAI cuts ties with 3 safety researchers, WSJ reports
12. OpenAI Fires 3 Safety Researchers For Allegedly Sharing Info…
13. OpenAI fires 3 safety researchers in dispute over AI risks
14. Google News - OpenAI fires three safety researchers, reports say…
15. OpenAI fires three safety researchers over… - Business Standard
16. OpenAI fires 3 researchers, laid off employees say they chose safety…

17. [OpenAI fires safety team members over confidential…

    Fox Business](https://www.foxbusiness.com/technology/openai-fires-3-safety-researchers-accused-sharing-confidential-company-information-report)