AI가 그림을 그려주는 시대, 편리함의 이면에는 어두운 그림자가 있습니다. xAI의 챗봇 Grok이 성적 딥페이크 이미지를 대량으로 생성하는 도구로 악용되면서, AI 업계 전체가 뒤흔들리고 있는데요. 이 사건은 단순한 기술적 결함이 아니라, 플랫폼이 사용자에게 어디까지 책임져야 하는가라는 근본적인 질문을 던지고 있습니다.

무슨 일이 벌어진 건가

일론 머스크의 AI 회사 xAI가 만든 Grok은 X(구 트위터)에 통합된 AI 챗봇입니다. 문제는 Grok의 이미지 생성 기능에서 터졌습니다. 사용자들이 유명인, 정치인, 심지어 일반인의 사진을 기반으로 성적으로 노골적인 딥페이크 이미지를 만들어내기 시작한 겁니다.