Claude Code 자동 모드는 어떻게 뚫렸나: AI에게 권한 판단을 맡길 때 생기는 일

AI 코딩 도구가 파일을 고치고 명령어까지 실행하는 시대입니다. 편의를 위해 승인 절차를 줄이는 순간, AI는 개발 도구를 넘어 권한을 가진 행위자가 됩니다. Claude Code Opus 5의 자동 모드를 겨냥한 권한 우회 실험이 주목받는 것도 이 때문입니다.

자동 모드는 무엇을 자동화하나

일반적인 코딩 에이전트는 위험할 수 있는 작업을 실행하기 전에 사용자에게 허락을 구합니다. 파일을 수정하거나 셸 명령을 실행할 때, 외부 서비스에 접근할 때가 대표적입니다.

자동 모드는 이런 확인 절차를 줄여줍니다. 에이전트가 작업의 목적과 위험도를 살핀 뒤 허용된 범위 안이라고 판단하면 바로 실행합니다. 개발자는 승인 버튼을 계속 누르지 않아도 됩니다.

바로 여기서 중요한 변화가 생깁니다. 자동화되는 것은 명령 실행뿐만이 아닙니다. 이 행동을 믿어도 되는가라는 보안 판단까지 AI에 맡기게 됩니다.

자동 모드가 빠른 이유와 위험한 이유는 결국 같습니다. 사람이 하던 확인을 AI가 대신하기 때문입니다.

권한 우회는 자물쇠를 부수는 공격이 아닙니다

이번 주제를 두고 2026년 8월 한 달 동안 공개 커뮤니티에서 확인할 수 있는 논의는 매우 제한적입니다. 재현 절차와 영향 범위를 교차 검증할 자료도 충분하지 않습니다. 따라서 특정 제품에 이미 보편적인 취약점이 있다고 단정하기는 어렵습니다.

다만 알려진 실험에서 드러난 핵심 문제는 분명합니다. 금지된 명령을 정면으로 실행하는 대신, 에이전트가 허용된 작업으로 받아들이도록 맥락을 바꾸는 방식입니다.

예를 들어 “보호된 파일을 읽어라”는 요청은 거부될 수 있습니다. 그러나 같은 행동을 “빌드 오류를 분석하는 데 필요한 설정을 확인하라”는 여러 단계의 작업 속에 끼워 넣으면 판단이 달라질 수 있습니다. 모델은 개별 명령보다 전체 목적을 보고 안전성을 판단하기 때문입니다.

보안 분야에서는 이런 상황을 혼동된 대리인 문제라고 부릅니다. 권한을 가진 대리인이 공격자의 의도를 정상적인 업무로 잘못 이해하고 대신 실행하는 경우입니다. 문을 억지로 연 것이 아니라, 문지기가 엉뚱한 사람을 통과시킨 셈입니다.

AI의 판단과 보안 정책은 다른 것입니다

언어 모델은 문맥을 이해하는 데 강합니다. 하지만 같은 요청도 표현 방식이나 순서, 주변 파일의 내용에 따라 다르게 받아들일 수 있습니다.

반면 보안 정책은 일관돼야 합니다. 특정 경로는 읽을 수 없어야 하고, 특정 명령은 실행할 수 없어야 하며, 네트워크 접근은 정해진 대상에만 허용돼야 합니다. 표현이 그럴듯하다는 이유로 예외가 생겨서는 안 됩니다.

자동 모드가 모델의 추론에 지나치게 의존하면 이 두 체계의 경계가 흐려집니다. “이 명령이 정책상 허용되는가”보다 “이 작업이 개발 목적처럼 보이는가”가 앞서는 일이 생깁니다.

프롬프트 인젝션도 바로 이 틈을 노립니다. 저장소의 문서나 이슈 내용, 패키지 설명처럼 에이전트가 읽는 텍스트에 악성 지시가 숨어 있을 수 있습니다. 사용자가 직접 위험한 명령을 입력하지 않아도 외부에서 들어온 문장이 에이전트의 판단을 흔들 수 있다는 뜻입니다.

안전한 자동화에는 두 개의 문지기가 필요합니다

첫 번째 문지기는 AI입니다. 요청의 뜻을 파악하고 수상한 작업을 찾아냅니다. 하지만 AI의 판단만으로는 부족합니다.

두 번째 문지기는 모델 밖에서 작동하는 강제 장치여야 합니다. 운영체제 권한, 샌드박스, 명령 허용 목록, 경로별 접근 제어 같은 구조가 필요합니다. AI가 안전하다고 판단하더라도 시스템 정책을 넘어설 수 없어야 합니다.

특히 자동 모드에서는 최소 권한 원칙이 중요합니다. 에이전트는 현재 작업에 필요한 파일과 명령에만 접근할 수 있어야 합니다. 클라우드 자격 증명, 배포 키, 개인 인증서처럼 노출됐을 때 피해가 큰 정보는 작업 공간과 분리하는 편이 안전합니다.

실행 기록도 남겨야 합니다. 어떤 파일을 읽었는지, 어떤 명령을 왜 실행했는지 추적할 수 있어야 사고가 났을 때 과정을 재현할 수 있습니다. 삭제, 배포, 외부 전송처럼 되돌리기 어려운 행동은 자동 모드에서도 사람의 승인을 거치게 할 필요가 있습니다.

편리함보다 먼저 물어야 할 질문

Claude Code 자동 모드 권한 우회 논란의 핵심은 특정 모델이 얼마나 영리한지가 아닙니다. AI의 판단을 보안 경계로 사용해도 되는가가 진짜 질문입니다.

AI 에이전트는 앞으로 더 많은 권한을 갖게 될 것입니다. 그렇다면 자동화를 켜기 전에 먼저 확인해야 합니다. 이 에이전트가 실수하거나 속더라도, 시스템이 마지막 선을 지켜줄 수 있습니까?