'계속할까요? Y/N' — 60초짜리 게임이 AI 에이전트 시대의 가장 큰 문제를 까발렸다

지난주 개발자 커뮤니티에 묘한 게임 하나가 돌았습니다. 제목은 Continue? Y/N. 플레이 시간은 약 60초인데요. 게임이라기보다는 풍자 작품에 가깝습니다. 화면에 끝없이 뜨는 “계속할까요? [Y/N]” 버튼을 누르는 게 전부거든요. 그런데 이 별것 아닌 게임이 왜 IT 업계에서 화제가 됐을까요. AI 에이전트를 매일 쓰는 사람들이 한결같이 “이거 내 얘기다"라고 반응했기 때문입니다.

클릭 한 번에 1초, 하루에 200번이면 어떻게 될까

AI 코딩 에이전트를 써본 분이라면 익숙한 풍경이 있습니다. 파일 하나 읽을게요, 허용하시겠어요? bash 명령 실행할게요, 허용하시겠어요? 디렉터리 만들게요, 허용하시겠어요?

처음엔 안전장치라 생각하고 꼼꼼히 읽습니다. 그런데 10분쯤 지나면 손이 먼저 움직입니다. Y, Y, Y, Y. 결국 “모두 허용"을 눌러버리거나, 아니면 정작 위험한 명령이 떴을 때도 무심코 Y를 눌러버리죠. 보안을 위해 만든 장치가 보안을 해치는 역설이 벌어집니다.

게임 개발자는 이걸 1분짜리 인터랙티브 풍자로 풀어냈습니다. 처음엔 단순한 Y/N 선택. 그런데 점점 질문이 빨라지고, 선택지가 모호해지고, 어느 순간엔 화면 절반이 권한 요청 다이얼로그로 뒤덮입니다. 플레이어는 자신이 무엇에 동의하고 있는지 모르는 채 계속 Y만 누르게 되죠. 이게 바로 보안 분야에서 말하는 퍼미션 피로(permission fatigue)입니다.

이건 사실 모바일 OS가 10년 전에 겪었던 문제

기시감이 드는 분도 계실 겁니다. 맞아요. 2010년대 초반 스마트폰 앱들이 똑같은 짓을 했습니다. 손전등 앱이 연락처, 위치, 마이크, 카메라 권한을 한꺼번에 요구하던 시절이요. 사용자들은 그냥 “허용"을 눌렀고, 그렇게 무수한 데이터가 새어나갔습니다.

iOS와 안드로이드는 이걸 해결하기 위해 단계적 권한 모델로 바꿨습니다. 앱 설치 시 한꺼번에 묻지 말고, 실제로 그 기능을 쓸 때 그때그때 묻기. 그리고 “이번에만 허용”, “앱 사용 중에만 허용” 같은 세분화된 옵션을 줬죠. 10년이 걸린 진화였습니다.

그런데 AI 에이전트는 지금 그 10년 전 모델로 돌아가 있습니다. 매 액션마다 묻거나, 아니면 처음에 통째로 권한을 받거나. 중간이 없습니다.

진짜 문제는 “에이전트가 뭘 할지 모른다"는 점

모바일 앱과 AI 에이전트의 결정적 차이가 여기 있습니다. 앱은 사전에 기능이 정해져 있습니다. 인스타그램이 갑자기 내 은행 앱을 열진 않죠.

반면 AI 에이전트는 동적으로 행동을 결정합니다. “이 버그 고쳐줘"라고 했더니, 에이전트가 판단해서 파일 10개를 읽고, 패키지를 설치하고, 테스트를 돌리고, git에 커밋합니다. 사용자는 매 단계에서 “이게 정말 필요한 작업인가?“를 실시간으로 판단해야 합니다. 그것도 60초 안에. 그것도 200번씩.

인지과학에서는 이를 의사결정 피로(decision fatigue)라고 부릅니다. 사람의 판단력은 무한하지 않아서, 사소한 결정이 반복되면 중요한 결정의 질도 떨어집니다. 판사가 점심 직후에 가석방을 더 많이 승인한다는 유명한 연구가 있죠. AI 에이전트는 우리에게 하루 종일 점심 전 판사가 되라고 요구하고 있는 셈입니다.

그럼 어떻게 해야 하나 — 업계가 더듬더듬 찾고 있는 답

다행히 몇몇 방향성은 보입니다. 첫째, 위험도 기반 분류입니다. 읽기 전용 작업은 자동 허용, 쓰기 작업은 묶어서 한 번에 확인, 시스템 명령은 매번 확인. 이미 일부 에이전트 도구들이 이 방향으로 가고 있습니다.

둘째, 샌드박싱입니다. 에이전트를 격리된 환경에 가둬놓고 마음껏 실험하게 한 뒤, 결과만 가져오는 방식이죠. 권한을 묻지 않아도 되는 이유는 어차피 망쳐도 호스트엔 영향이 없으니까요.

셋째, 좀 더 야심찬 방향으론 의도 기반 승인이 있습니다. “이 PR 만들어줘"라는 큰 단위의 의도를 한 번 승인하면, 그 안에서의 세부 작업은 사용자에게 묻지 않는 방식. 단, 사전 정의된 위험 범위를 벗어나면 그때만 확인. 모바일이 갔던 길과 비슷합니다.

60초짜리 게임이 던진 질문

이 게임이 흥미로운 건 단순히 웃기기 때문이 아닙니다. AI 도구를 만드는 사람들에게 거울을 들이댔기 때문입니다. 우리가 안전이라는 이름으로 만든 장치가, 사실은 사용자에게 모든 책임을 떠넘기는 핑계는 아니었는지. “Y를 누르셨잖아요"라고 말할 수 있는 알리바이를 만든 건 아니었는지요.

여러분도 한번 세어보세요. 오늘 AI 도구에 Y를 몇 번이나 눌렀나요. 그중에서 진짜로 읽고 누른 건 몇 번인가요. 이 격차가 곧 다음 AI UX 혁신이 들어설 빈자리입니다.