리우데자네이루의 '자체 개발' AI, 알고 보니 짜깁기였다 — 주권 AI 시대의 벤치마크 사기

요즘 전 세계 정부들이 너도나도 “우리만의 AI"를 만들겠다고 나서고 있습니다. 그런데 리우데자네이루 시정부가 발표한 자체 개발 LLM이 알고 보니 기존 모델을 짜깁기한 것이라는 의혹이 불거졌습니다. 단순한 해프닝이 아닙니다. 주권 AI라는 거대한 흐름 뒤에 숨은 신뢰 문제를 정확히 건드리는 사건이기 때문입니다.

먼저 솔직하게 말씀드리겠습니다. 이번 ‘Nex-N2’ 사안은 아직 커뮤니티에서 활발하게 검증되거나 광범위하게 보도된 단계가 아닙니다. 최근 30일간 관련 토론 데이터가 매우 제한적이었습니다. 그래서 이 글은 특정 주장을 단정하기보다는, 이런 유형의 논란이 왜 반복해서 터지는지, 그리고 우리가 무엇을 의심하고 검증해야 하는지를 짚는 쪽에 무게를 두겠습니다.

주권 AI 열풍, 그 이면의 함정

주권 AI는 한 국가나 지자체가 자국 데이터와 자국 인프라로 만든 AI를 뜻합니다. 미국 빅테크에 의존하지 않겠다는 정치적, 경제적 욕구가 깔려 있습니다. 데이터 주권, 일자리, 국가 안보까지 명분은 충분합니다.

문제는 ‘AI를 직접 만든다’는 말이 기술적으로 굉장히 넓은 스펙트럼을 가진다는 점입니다. 바닥부터 사전학습을 돌린 경우도 있고, 기존 오픈 모델에 미세조정만 한 경우도 있습니다. 심지어 여러 공개 모델의 가중치를 섞는 모델 병합(model merge)만으로도 그럴듯한 신규 모델이 나옵니다.

리우 사례에서 제기된 핵심 의혹이 바로 이 지점입니다. ‘Nex-N2’가 독자 연구의 산물이 아니라, 이미 공개된 모델들을 병합하고 이름만 새로 붙인 것 아니냐는 겁니다.

모델 병합이 왜 문제가 되나

오해를 막기 위해 분명히 해두겠습니다. 모델 병합 자체는 사기가 아닙니다. 오픈소스 생태계에서 널리 쓰이는 정당한 기법입니다. 서로 다른 강점을 가진 모델의 가중치를 수학적으로 합쳐 더 나은 성능을 노리는 방식입니다.

문제는 표현 방식입니다. “우리가 처음부터 개발했다"고 발표하면서 실제로는 남의 오픈 가중치를 병합했다면, 이건 기술이 아니라 커뮤니케이션의 정직성 문제가 됩니다. 들어간 예산, 연구 인력, 개발 기간에 대한 설명이 전부 흔들리기 때문입니다.

게다가 라이선스 문제도 따라옵니다. 원본 모델의 라이선스가 상업적 재배포나 출처 표기를 요구한다면, 출처를 지운 병합 모델은 법적으로도 위험합니다. 세금으로 운영되는 시정부 프로젝트라면 더더욱 그렇습니다.

벤치마크 점수는 어떻게 부풀려지나

이런 논란의 단골 소재가 벤치마크 게이밍입니다. 벤치마크는 모델 성능을 점수로 보여주는 시험 같은 건데요. 이 점수를 인위적으로 높이는 수법이 여러 가지 있습니다.

가장 흔한 건 시험 문제 유출입니다. 평가에 쓰이는 테스트 데이터를 학습 단계에 슬쩍 포함시키면, 모델은 ‘답을 외운’ 상태로 시험을 칩니다. 점수는 높지만 실제 능력과는 무관합니다. 이걸 데이터 오염(contamination)이라고 부릅니다.

여러 모델을 병합할 때도 비슷한 일이 벌어집니다. 특정 벤치마크에서 점수가 잘 나오도록 튜닝된 모델들을 골라 섞으면, 종합 점수표는 화려해집니다. 하지만 정작 시민이 챗봇에 실제 질문을 던지면 엉뚱한 답을 내놓는 경우가 많습니다. 점수와 체감 성능 사이의 간극입니다.

정부가 만드는 AI, 무엇을 검증해야 하나

민간 스타트업의 과장이야 시장이 걸러낸다지만, 정부 프로젝트는 다릅니다. 세금이 들어가고 정책 신뢰가 걸려 있습니다. 그래서 더 깐깐한 검증 기준이 필요합니다.

첫째, 학습 출처 공개입니다. 어떤 데이터로, 어떤 베이스 모델 위에서 만들었는지 밝혀야 합니다. 둘째, 재현 가능성입니다. 발표한 벤치마크 점수를 제3자가 같은 조건에서 재현할 수 있어야 합니다. 셋째, 실사용 평가입니다. 점수표가 아니라 실제 사용자 시나리오에서의 성능이 핵심입니다.

리우 사례가 의미 있는 이유는 이 세 가지 질문을 던지게 만들기 때문입니다. 의혹의 진위를 떠나, ‘자체 개발’이라는 단어 뒤에 무엇이 있는지 따져 묻는 습관 자체가 필요해진 시대입니다.

주권 AI는 거스를 수 없는 흐름입니다. 하지만 ‘우리가 만들었다’는 선언이 곧 기술력의 증명은 아닙니다. 다음에 어느 정부가 ‘독자 개발 AI’를 자랑할 때, 여러분은 어떤 질문을 먼저 던지시겠습니까? 점수표보다 출처와 재현성을 먼저 확인하는 것, 그것이 주권 AI 시대의 새로운 미디어 리터러시일지도 모릅니다.