AI를 속이는 옷, 감시 카메라 앞에서도 통할까요?

핵심 요약

• 감시 회피용 패턴은 영상 분석 AI의 판단을 흔드는 것을 목표로 합니다.
• 효과를 판단하려면 옷의 주름, 촬영 각도, 조명 변화까지 고려해야 합니다.
• 한 모델을 속이는 패턴이 다른 모델에도 통한다고 보장할 수는 없습니다.
• 사람 탐지를 방해하더라도 얼굴 인식과 추적까지 막았다는 뜻은 아닙니다.

카메라 앞에서 옷만 바꿔 입으면 AI가 나를 놓칠 수 있을까요? 옷의 무늬가 영상 분석을 방해할 수 있다면 프라이버시를 지키는 데도 도움이 될지 궁금해집니다. 다만 ‘AI를 헷갈리게 하는 옷’이 곧 ‘감시를 피하게 해주는 옷’인지는 여러 조건을 따져봐야 합니다.

무늬가 겨냥하는 것은 AI의 판단입니다

이런 시도를 흔히 적대적 패션이라고 부릅니다. 여기서 ‘적대적’이란 AI가 잘못된 답을 내도록 입력을 설계한다는 뜻입니다.

컴퓨터 비전은 이미지와 영상에서 대상이나 특징을 찾아내는 기술입니다. 적대적 패턴은 사람에게는 평범해 보이는 무늬도 모델의 판단을 흔들 수 있다는 점을 이용합니다.

이런 무늬를 옷에 넣어, 모델이 사람을 탐지하지 못하거나 다른 대상으로 분류하도록 유도하는 식입니다. 모델이 학습한 시각적 단서를 교란해 판단을 틀리게 만드는 겁니다.

그렇다고 이 옷을 ‘투명 망토’처럼 생각해서는 안 됩니다. AI가 잘못 판단해도 카메라에는 착용자의 모습이 찍힐 수 있습니다. 사람이 영상을 직접 보고 알아볼 가능성도 여전히 남습니다.

옷은 구겨지고, 카메라는 움직입니다

화면 속 패턴을 옷에 인쇄하면 조건이 달라집니다. 평평했던 무늬가 몸의 곡선을 따라 휘고, 걸을 때마다 주름이 생깁니다. 팔이나 가방이 무늬 일부를 가리기도 합니다.

촬영 거리도 영향을 줍니다. 가까이서는 또렷한 패턴이 멀리서는 작은 색 덩어리처럼 보일 수 있습니다. 조명이 바뀌면 카메라가 받아들이는 색과 명암도 달라집니다.

정면의 특정 거리에서 성공한 시연만 보고 일상에서도 효과가 있다고 판단하기는 어렵습니다. 조건이 바뀌어도 효과가 유지되는지를 확인해야 합니다.

어떤 모델을 쓰느냐도 문제입니다. 특정 모델의 판단 방식에 맞춰 만든 패턴이 다른 모델에도 똑같이 통하리라는 보장은 없습니다. 같은 카메라를 쓰더라도 영상 분석 소프트웨어가 바뀌면 효과를 다시 확인해야 합니다.

‘AI를 속인다’는 말만으로는 이런 차이를 알 수 없습니다. 어떤 모델을 속였는지, 당시 조건은 어땠는지를 알아야 합니다. 얼마나 자주 성공했는지도 함께 밝혀야 효과를 판단할 수 있습니다.

사람을 놓치는 것과 신원을 숨기는 것은 다릅니다

감시를 피한다는 말이 무엇을 뜻하는지 보려면 적어도 세 가지 기능을 구분해야 합니다.

• 탐지는 화면에 사람이 있는지 찾는 일입니다.
• 식별은 그 사람이 누구인지 알아내는 일입니다.
• 추적은 영상 속 대상의 이동을 이어서 파악하는 일입니다.

옷의 패턴이 사람 탐지를 방해했더라도, 별도로 작동하는 얼굴 인식까지 방해했다고 단정할 수는 없습니다. 옷을 분석하는 것과 얼굴을 분석하는 것은 대상부터 다르기 때문입니다.

한순간 사람을 탐지하지 못한 경우도 따로 봐야 합니다. 앞뒤 장면에서는 AI가 사람을 제대로 탐지할 수 있습니다. 추적 시스템이 이전 위치와 움직임을 바탕으로 같은 대상을 계속 따라갈 가능성도 있습니다.

영상에서 사람을 표시하는 사각형이 잠깐 사라졌다고 해서 ‘신원을 숨겼다’거나 ‘추적을 피했다’고 말하기는 어렵습니다. 무엇을 방해하는 데 성공했느냐에 따라 그 결과의 의미도 달라집니다.

멋진 시연보다 성공 조건을 보세요

이런 옷의 효과를 소개하는 영상을 본다면 먼저 무엇과 비교했는지 살펴보세요. 같은 장소와 카메라에서 일반적인 옷을 입었을 때도 AI가 사람을 놓친다면, 탐지에 실패한 이유가 패턴 때문이라고만 볼 수는 없습니다.

전체 촬영에서 성공한 장면이 얼마나 자주 나왔는지도 봐야 합니다. 잠깐 잘못 인식하는 것과 영상 전반에서 사람을 탐지하지 못하는 것은 실제로 활용할 때 큰 차이가 납니다.

각도와 거리가 달라져도 효과가 반복되는지 확인해야 합니다. 다른 모델에서도 작동하는지도 살펴봐야 하고요. 가만히 서 있는 착용자에게 통하는 패턴이 움직이는 사람에게도 같은 효과를 내는지는 별도로 확인할 문제입니다.

저는 적대적 패션을 볼 때 옷 한 벌이 감시를 얼마나 막아줄지보다 AI가 세상을 어떻게 보는지에 더 관심이 갑니다. 사람 눈에는 분명히 보이는 대상도 모델은 제대로 판단하지 못할 수 있다는 점을 옷의 무늬를 통해 눈으로 확인할 수 있기 때문입니다.

AI의 판단을 흔들 수 있다고 해서 일상에서 감시를 피할 수 있다고 보장할 수는 없습니다. ‘AI를 속이는 옷’을 평가할 때는 무늬가 얼마나 기발한지와 함께, 그 옷이 정확히 어떤 판단을 방해했는지를 봐야 합니다. 어떤 조건에서 효과가 있었는지까지 확인해야 감시를 피할 수 있다는 설명을 판단할 수 있습니다.