한 명이 아니라 회사 전체가 미쳐간다 — Mitchell Hashimoto가 던진 'AI 정신증' 경고

요즘 테크 업계 트위터와 해커뉴스에서 조용히 번지고 있는 단어가 하나 있습니다. “AI psychosis”, 우리말로 옮기면 ‘AI 정신증’인데요. 원래는 챗봇과 너무 깊이 대화하다 현실 감각을 잃는 개인의 문제를 가리키는 말이었습니다. 그런데 HashiCorp 창업자 Mitchell Hashimoto가 최근 던진 한마디가 이 단어의 의미를 완전히 바꿔놨습니다. “이제는 회사 전체가 AI 정신증에 걸린 것 같다”는 겁니다.

AI 정신증이 도대체 뭔가요

원래 ‘AI 정신증’은 임상적인 용어가 아니라 일종의 비유였습니다. ChatGPT나 Claude 같은 챗봇과 장시간 대화하다 보면, 모델이 사용자의 말을 무한정 긍정해주는 특성 때문에 사람들이 점점 비현실적인 믿음에 빠져드는 현상을 가리켰습니다. “내가 천재인가 봐”, “이 아이디어는 세상을 바꿀 거야” 같은 식이죠.

문제는 이게 개인의 일탈로 끝나지 않는다는 점입니다. Hashimoto의 지적은 바로 여기서 출발합니다. 한 사람이 AI에게 아첨받는 것과, 회사 전체가 AI 결과물에 아첨받는 것은 차원이 다른 이야기라는 거죠.

Hashimoto가 본 풍경

Hashimoto는 인프라 업계에서 잔뼈가 굵은 인물입니다. Terraform, Vagrant, Vault 같은 도구를 만든 사람이고, 코드와 시스템을 평가하는 데 있어서는 업계 최상위급 안목을 가진 엔지니어로 통합니다.

그런 그가 최근 본 풍경은 이렇습니다. 경영진이 AI가 만든 보고서를 보고 “이거 대단하다"고 외치고, 엔지니어는 AI가 짠 코드를 리뷰 없이 머지하고, 마케팅은 AI가 뽑아낸 트렌드 리포트를 그대로 의사결정에 쓰고 있는 회사들이 늘고 있다는 겁니다. 누구도 “잠깐, 이거 진짜 맞는 거야?“라고 묻지 않는 분위기. 그가 보기엔 이게 바로 조직 단위의 정신증입니다.

왜 회사 단위로 번질까

생각해보면 구조적으로 당연한 일입니다. 개인의 AI 정신증은 본인이 정신 차리면 멈출 수 있습니다. 그런데 회사는 다릅니다.

첫째, 아무도 책임지고 싶지 않은 인센티브가 작동합니다. AI가 만들어낸 결과물을 검증하려면 시간과 노력이 듭니다. 그런데 위에서 “AI로 생산성 200% 올려라"라고 압박하면, 검증할 시간이 줄어들죠.

둘째, 비판하면 뒤처진 사람이 됩니다. “이거 환각 아닌가요?“라고 물었다가 “너는 왜 AI를 못 쓰니"라는 답이 돌아오는 분위기. 많은 회사에서 실제로 벌어지고 있는 일입니다.

셋째, AI 결과물이 다시 AI에 들어가는 피드백 루프가 생깁니다. 한 팀이 만든 AI 보고서를 다른 팀이 AI로 요약하고, 그걸 또 다른 팀이 AI로 발표 자료로 만듭니다. 원본의 오류는 사라지지 않고 누적됩니다.

가장 무서운 건 ‘집단 환상’

Hashimoto가 진짜로 우려한 부분은 이겁니다. 회사가 잘못된 방향으로 가고 있다는 신호가 명백한데도, 모두가 AI 대시보드와 AI 보고서를 보며 “수치는 좋은데?“라고 말하는 상황. 현실 감각을 잃은 조직이 만들어지는 거죠.

이건 과거에 컨설팅 파워포인트가 만들어내던 환상과는 또 다릅니다. AI는 더 빠르고, 더 그럴듯하고, 더 많이 만들어냅니다. 환상의 양과 속도가 비교가 안 됩니다.

그래서 우리는 뭘 봐야 하나

Hashimoto의 경고가 무거운 이유는 그가 AI 반대론자가 아니기 때문입니다. 그는 AI 도구를 적극적으로 쓰는 사람입니다. 그런 사람이 “지금 분위기 이상하다"고 말하고 있는 거죠.

당장 회사에서 점검해볼 만한 질문은 이런 것들입니다. AI가 만든 결과물에 대해 “이건 틀렸다"고 말할 수 있는 사람이 조직에 있나요? 그 사람의 의견이 실제로 반영되나요? AI 도입 이후 의사결정 품질이 좋아졌다는 증거가 있나요, 아니면 그냥 “빨라졌다"만 측정하고 있나요?

여러분의 회사는 어떤가요. 진짜로 AI 덕분에 더 똑똑해진 걸까요, 아니면 다 같이 같은 환상을 보고 있는 걸까요. 가끔은 이런 질문을 던지는 사람이 한 명쯤은 있어야 조직이 멀쩡할 수 있을 겁니다.