200개 단체가 구글에 보낸 편지, AI 슬롭이 아이들의 뇌를 망치고 있다

아이에게 유튜브를 틀어주고 잠깐 다른 일을 하신 적 있으신가요. 돌아와서 화면을 보면 기묘한 3D 캐릭터가 의미 없는 행동을 반복하는 영상이 자동 재생되고 있습니다. 이른바 AI 슬롭입니다. 200개가 넘는 아동 보호 단체가 이 문제를 더 이상 방치할 수 없다며 구글에 공식 서한을 보냈습니다.

AI 슬롭이란 무엇인가

슬롭(Slop)은 원래 돼지 먹이를 뜻하는 영어 단어입니다. 테크 업계에서는 AI가 대량으로 찍어내는 저품질 콘텐츠를 가리키는 말로 자리 잡았습니다. 텍스트든, 이미지든, 영상이든 사람이 제대로 검수하지 않고 알고리즘에 최적화해서 쏟아내는 콘텐츠 전반을 의미합니다.

문제는 이 슬롭이 가장 취약한 소비자인 어린이를 정확히 겨냥하고 있다는 점입니다. 밝은 색상, 반복적인 사운드, 익숙한 캐릭터를 모방한 외형. AI 생성 도구를 활용하면 하루에 수십, 수백 편의 영상을 만들 수 있습니다. 제작 비용은 거의 제로에 가깝고, 조회수 기반 광고 수익은 고스란히 제작자에게 돌아갑니다.

200개 단체가 보낸 편지의 핵심

미국과 유럽을 중심으로 200개 이상의 아동 보호, 교육, 디지털 안전 관련 단체들이 구글 CEO에게 공동 서한을 발송했습니다. 이 서한에는 미국 소아과학회(AAP), 커먼센스미디어(Common Sense Media), 영국의 5Rights Foundation 등 이 분야에서 가장 영향력 있는 기관들이 이름을 올렸습니다.

서한의 요구사항은 명확합니다. 첫째, YouTube Kids 플랫폼에서 AI 생성 콘텐츠를 명확히 라벨링할 것. 둘째, 아동 대상 AI 슬롭 채널에 대한 수익화를 중단할 것. 셋째, AI 생성 콘텐츠의 추천 알고리즘 노출을 제한할 것. 이 세 가지를 이행하지 않으면 각국 규제 당국에 공식 조사를 요청하겠다는 내용도 담겨 있습니다.

아이들의 뇌에 무슨 일이 벌어지는가

아동 발달 전문가들이 가장 우려하는 부분은 인지 발달에 미치는 영향입니다. AI 슬롭 영상은 대부분 서사 구조가 없습니다. 시작도, 갈등도, 해결도 없이 시각 자극만 반복됩니다. 성인에게는 그저 지루한 영상이지만, 뇌가 한창 발달하는 3~7세 아이들에게는 이야기가 다릅니다.

서사를 따라가며 인과관계를 이해하는 능력, 감정을 읽고 공감하는 능력은 콘텐츠를 통해 자연스럽게 형성됩니다. 기존의 양질의 어린이 프로그램이 교육 전문가의 자문을 받아 제작되는 이유가 여기에 있습니다. AI 슬롭은 이 과정을 완전히 우회합니다. 자극은 있지만 의미가 없는 콘텐츠를 수천 시간 소비하게 되는 겁니다.

더 심각한 문제도 있습니다. 일부 AI 생성 영상에는 아이들에게 부적절한 폭력적이거나 기괴한 장면이 필터링 없이 섞여 들어갑니다. 이른바 엘사게이트(Elsagate) 논란이 AI 시대에 더 큰 규모로 재현되고 있는 셈입니다.

구글의 딜레마

구글 입장에서 이 문제는 단순하지 않습니다. YouTube는 이미 2023년부터 AI 생성 콘텐츠에 라벨을 부착하는 정책을 시행하고 있습니다. 하지만 업로더가 자진 신고하지 않으면 탐지가 어렵고, 라벨이 붙어도 추천 알고리즘에서 불이익을 받지 않습니다.

수익 구조도 걸림돌입니다. AI 슬롭 채널은 놀라울 만큼 높은 조회수를 기록합니다. 아이들은 자동 재생 기능을 통해 한 영상에서 다음 영상으로 끝없이 넘어갑니다. 이 과정에서 발생하는 광고 수익을 구글이 스스로 차단할 유인이 크지 않습니다.

그러나 규제 압력은 점점 강해지고 있습니다. EU의 디지털서비스법(DSA)은 미성년자 보호를 플랫폼의 의무로 명시하고 있고, 미국에서도 아동 온라인 안전법(KOSA)이 힘을 받고 있습니다. 200개 단체의 공동 서한은 이런 규제 논의에 불을 붙이는 촉매제가 될 가능성이 높습니다.

부모가 할 수 있는 것, 그리고 한계

당장의 대응책으로 전문가들은 몇 가지를 권합니다. YouTube Kids 대신 사전 검증된 콘텐츠만 제공하는 플랫폼을 사용하거나, 시청 기록을 정기적으로 확인하고, 무엇보다 아이와 함께 시청하는 시간을 늘리라는 것입니다.

하지만 이는 근본적 해결책이 아닙니다. 하루에도 수만 편씩 쏟아지는 AI 생성 영상을 부모 개인이 필터링하는 것은 물리적으로 불가능합니다. 결국 플랫폼 차원의 구조적 대응이 필요하다는 것이 200개 단체가 입을 모아 말하는 핵심입니다.

AI가 콘텐츠를 만드는 시대는 이미 왔습니다. 문제는 기술 자체가 아니라, 그 기술이 가장 보호받아야 할 대상에게 무방비로 노출되고 있다는 사실입니다. 구글이 이 서한에 어떤 답을 내놓을지, 그리고 그 답이 실질적인 변화로 이어질지 지켜볼 필요가 있습니다. 여러분의 아이가 지금 어떤 영상을 보고 있는지, 한번 확인해보시는 건 어떨까요.