샘 올트먼에게 AI의 미래를 맡겨도 될까 — 뉴요커가 던진 불편한 질문

한 사람의 판단이 인류의 미래를 좌우할 수 있다면, 그 사람을 얼마나 신뢰할 수 있는지가 중요해집니다. 뉴요커가 샘 올트먼의 장편 프로필을 통해 던진 질문이 바로 이것입니다. AI 업계에서 가장 영향력 있는 인물에 대한 이 기사는, 기술이 아니라 권력의 문제를 정면으로 다룹니다.

비영리에서 시작해 세계 최대 AI 기업이 되기까지

OpenAI의 역사를 되짚어보면 묘한 궤적이 보입니다. 2015년 비영리 연구소로 출발했고, 설립 취지는 명확했습니다. AI가 소수 기업에 독점되지 않도록 안전하고 개방적인 연구를 하겠다는 것이었죠.

그런데 지금의 OpenAI는 어떤가요. 마이크로소프트로부터 수십억 달러의 투자를 받았고, 기업 가치는 수천억 달러 규모로 평가됩니다. 비영리 이사회 위에 영리 법인이 올라가는 복잡한 지배구조를 갖게 되었고, 그 중심에는 항상 샘 올트먼이 있었습니다. Open이라는 이름과 달리 핵심 모델의 소스코드는 공개되지 않습니다. 뉴요커는 이 변화의 과정을 단순한 성장이 아니라 권력 집중의 서사로 읽어냅니다.

2023년 해임과 복귀 — 드러난 권력의 실체

2023년 11월, OpenAI 이사회가 올트먼을 전격 해임했던 사건을 기억하실 겁니다. 이유는 명확히 공개되지 않았습니다. 이사회와의 소통에서 일관되지 않았다는 모호한 설명만 있었죠.

그런데 벌어진 일은 놀라웠습니다. 직원 700명 이상이 올트먼이 복귀하지 않으면 퇴사하겠다고 서명했고, 마이크로소프트가 즉각 지원 의사를 밝혔으며, 불과 5일 만에 올트먼은 CEO 자리로 돌아왔습니다. 이사회 멤버 대부분이 교체되었습니다.

뉴요커가 주목한 건 이 사건의 결론입니다. 안전을 위해 설계된 견제 장치가 작동했지만, 결국 무력화되었다는 점. 비영리 이사회가 영리 구조의 압력 앞에서 얼마나 취약한지가 실시간으로 증명된 셈입니다.

올트먼이라는 인물의 양면성

뉴요커 프로필이 흥미로운 건 올트먼을 단순한 악당으로 그리지 않기 때문입니다. 그는 Y Combinator 대표 시절부터 실리콘밸리에서 가장 뛰어난 네트워크 빌더로 평가받았습니다. AI의 위험성을 누구보다 자주 언급하는 사람이기도 합니다. 미 의회에 직접 출석해 AI 규제의 필요성을 이야기했죠.

문제는 그 경고와 행동 사이의 간극입니다. AI가 위험하다고 말하면서 동시에 가장 강력한 AI를 가장 빠르게 개발하는 회사를 이끌고 있습니다. 안전을 강조하면서도, 안전 연구팀의 핵심 인력들이 잇따라 퇴사하는 상황이 벌어졌습니다. 일리야 수츠케버를 비롯해 안전 관련 리더들의 이탈은 단순한 이직으로 보기 어렵습니다.

뉴요커는 이를 올트먼 개인의 문제라기보다 구조적 모순으로 봅니다. 안전과 성장이라는 두 가지 목표가 충돌할 때, 수천억 달러의 가치 평가를 받는 기업의 CEO가 어떤 선택을 할 수밖에 없는지를 묻는 것이죠.

진짜 질문은 시스템의 문제

한 가지 분명히 해야 할 것이 있습니다. 이건 샘 올트먼이 좋은 사람인지 나쁜 사람인지의 문제가 아닙니다.

AGI, 즉 인간 수준 혹은 그 이상의 범용 인공지능을 목표로 하는 조직이 있습니다. 그 조직의 의사결정이 사실상 한 사람에게 집중되어 있습니다. 그리고 그 한 사람을 견제할 수 있는 장치는 이미 한 번 무력화된 전례가 있습니다. 이 구조가 과연 건강한가요.

비교해보면 흥미롭습니다. 핵무기 개발에는 국가 차원의 감독 체계가 있었습니다. 제약 산업에는 FDA라는 규제 기관이 있습니다. 그런데 인류 문명을 바꿀 수 있다고 스스로 주장하는 기술을 개발하는 AI 기업에는 그에 상응하는 외부 감독 체계가 없습니다. 자체적인 이사회조차 제대로 기능하지 못했는데 말이죠.

AI 리더십의 신뢰, 어떻게 만들어야 하나

뉴요커의 프로필이 업계에 던지는 메시지는 명확합니다. 우리가 AI 기업을 신뢰하는 근거가 무엇인지 점검하라는 것입니다.

현재 구조에서 AI 안전은 기업의 자발적 약속에 의존하고 있습니다. 올트먼이 좋은 의도를 가졌다고 가정하더라도, 의도에 기반한 신뢰는 제도적 장치를 대체할 수 없습니다. 실리콘밸리는 오랫동안 기술 낙관주의와 창업자 중심 문화에 기대어 왔지만, AGI라는 목표 앞에서는 그 문화 자체가 리스크가 됩니다.

유럽의 AI Act 같은 규제 움직임이 있고, 미국에서도 논의는 계속되고 있습니다. 하지만 기술 발전 속도와 규제 논의 속도 사이의 격차는 점점 벌어지고 있습니다.

뉴요커의 질문을 조금 바꿔서 우리 자신에게 던져봅시다. 우리는 AI의 미래를 누구에게, 어떤 조건으로 맡기고 있는지 정확히 알고 있나요. 샘 올트먼 한 사람의 선의에 기대는 것과, 작동하는 시스템을 갖추는 것 사이에는 큰 차이가 있습니다. 그 차이를 메우는 일이 지금 가장 시급한 과제가 아닐까 합니다.