OpenAI 윤리 총괄이 1년도 못 채우고 떠났습니다

AI 랩에서 안전이나 윤리를 총괄하는 자리에 앉은 사람이 1년을 못 채우고 나갑니다. 한 번이면 성격 차이로 넘길 수 있습니다. 그런데 몇 년째 같은 일이 반복되면 사람이 아니라 자리를 의심해야죠. 왜 개인의 문제가 아닌지 적어보겠습니다.

미리 말씀드릴 게 있습니다. 이 주제로 최근 30일간의 커뮤니티 데이터를 뒤졌는데 건질 만한 논의가 거의 없었습니다. 레딧 스레드도 안 잡히더군요. 그래서 특정 인물의 최신 사임 건을 못 박아 다루기보다, 지난 몇 년간 되풀이된 패턴을 정리하는 쪽으로 씁니다. 누가 언제 나갔다는 발표는 공식 채널에서 확인하시는 게 정확합니다.

이미 익숙해진 패턴입니다

되짚어보면 목록이 꽤 깁니다. 2023년 말 이사회 사태로 샘 올트먼이 해임됐다가 닷새 만에 복귀했습니다. 그 와중에 안전 쪽 목소리를 내던 이사진이 정리됐습니다. 2024년 5월에는 공동창업자 일리야 수츠케버와 얀 라이케가 함께 회사를 떠났습니다. 라이케는 나가면서 “안전 문화와 프로세스가 반짝이는 제품에 밀렸다"고 공개적으로 적었고요. 두 사람이 이끌던 슈퍼얼라인먼트 팀은 그대로 해체됐습니다.

그 뒤로도 정책 연구 책임자, AGI 준비 태세를 맡던 어드바이저가 차례로 나갔습니다. 이제는 명단에 이름 하나 더 붙는 게 뉴스가 되지도 않습니다. 이 반복성 자체가 진짜 뉴스입니다.

왜 유독 이 자리만 짧을까요

엔지니어링 리드나 제품 총괄도 이직합니다. 다만 안전·윤리 총괄만큼 임기가 짧지는 않습니다. 성과를 재는 방식이 다르기 때문입니다.

제품 담당자의 성공은 눈에 보입니다. 출시했고 사용자가 늘었습니다. 매출도 올랐습니다. 안전 담당자의 성공은 일어나지 않은 일입니다. 막아낸 사고, 늦춘 출시, 걸러낸 기능. 아무 일도 안 생기면 “그 팀 왜 있냐"는 말이 나옵니다. 사고가 터지면 “그 팀 뭐 했냐"는 말이 나옵니다. 이길 수 있는 판이 아닙니다.

인센티브도 반대쪽을 향합니다. 경쟁 랩이 새 모델을 내놓는 판에 “6개월만 더 검증하자"는 제안은 회사 입장에선 손해입니다. 안전 조직은 조직도에는 있습니다. 실제 의사결정에서는 브레이크가 아니라 경고등에 가깝습니다. 경고등은 무시하면 그만입니다.

권한 없는 책임의 문제입니다

떠난 사람들의 말에는 겹치는 대목이 있습니다. 약속받은 만큼 컴퓨팅 자원을 못 썼다. 중요한 결정 자리에 끼지 못했다. 우려를 냈지만 반영되지 않았다.

슈퍼얼라인먼트 팀은 출범 당시 전체 컴퓨팅의 20퍼센트를 배정받기로 했습니다. 실제로는 그만큼 쓰지 못했다는 게 라이케의 주장이었습니다. 안전 조직이 받는 건 대개 직함과 책임입니다. 못 받는 건 예산과 거부권이고요. 책임만 있고 권한은 없는 자리에 유능한 사람을 앉히면, 유능하니까 상황을 금방 알아채고 금방 떠납니다.

퇴사할 때 걸리는 비방 금지 조항과 지분 회수 조항이 논란이 됐던 것도 같은 맥락입니다. 나가고 나서도 입을 열기 어려운 구조였다는 얘기니까요. 회사는 이후 해당 조항을 강제하지 않겠다고 밝혔습니다.

조직이 아니라 사람에게 의존하는 안전

AI 랩이 안전을 다루는 방식은 대체로 비슷합니다. 뛰어난 개인을 데려와 그 사람 판단에 맡깁니다. 그 사람이 나가면 판단 기준도 같이 사라집니다. 팀은 해체되고 남은 인력은 다른 조직으로 흡수됩니다. 몇 달 뒤 새 이름의 팀이 새 책임자와 함께 발표됩니다.

안전을 제도가 아니라 인물로 다루는 겁니다. 회계 감사를 이렇게 굴리는 회사는 없습니다. 감사는 사람이 바뀌어도 절차가 남습니다. 외부에 보고할 의무가 있고 경영진이 마음대로 없앨 수도 없습니다. AI 안전 조직에는 그 셋 중 어느 것도 없는 경우가 많습니다.

그래서 이탈이 반복될 때마다 조직 자체가 리셋됩니다. 축적이 안 됩니다.

그래서 우리가 봐야 할 것

이런 소식을 볼 때 “누가 나갔나"보다 나은 질문이 있습니다. 후임자에게 예산과 인력이 얼마나 붙었나. 출시를 실제로 막을 권한이 있나. 팀의 판단이 이사회로 곧장 올라가나. 이 세 가지가 그대로면 이름만 바뀐 겁니다.

덧붙이면 이건 OpenAI만의 문제가 아닙니다. 구글, 메타, 아마존 모두 AI 윤리 조직을 해체하거나 줄였습니다. 구글이 2020년 팀닛 게브루를 내보낸 일은 지금도 회자되고요. 상업 경쟁이 치열해질수록 내부 브레이크는 약해집니다. 업계 전체가 같은 구조에 놓여 있습니다.

바깥에서 확인할 수 있는 신호는 많지 않습니다. 그래도 이건 말할 수 있습니다. 안전 책임자가 자주 바뀌는 회사는, 안전에 관한 결정이 그 자리에서 내려지지 않는 회사입니다. 지금 쓰고 계신 AI 서비스는 누가, 어떤 권한으로 그 결정을 하고 있을까요.