OpenAI '프라이버시 필터' 공개 — ChatGPT가 진짜 당신의 데이터를 지켜줄까

OpenAI가 또 한 번 카드를 꺼냈습니다. 이번엔 새 모델도, 새 에이전트도 아닌 ‘프라이버시 필터(Privacy Filter)’라는 이름의 데이터 보호 장치인데요. 워크스페이스 에이전트와 함께 발표되면서, “이제 ChatGPT에 회사 자료 넣어도 되나?“라는 묵은 질문에 OpenAI가 직접 대답을 시도한 셈입니다. 그런데 정말 안심해도 되는 걸까요.

프라이버시 필터, 정확히 뭘 하는 모델인가

OpenAI가 4월 23일 발표한 프라이버시 필터는 한마디로 ‘민감 정보 자동 차단기’입니다. ChatGPT에 입력되는 프롬프트나 첨부 문서에서 개인정보, 기업 기밀, 신용카드 번호 같은 민감 데이터를 사전에 탐지하고 마스킹하거나 처리 방식을 다르게 가져가겠다는 구조인데요.

기존에도 엔터프라이즈 플랜에는 데이터 학습 제외 옵션이 있었습니다. 다만 그건 “우리가 학습에 안 쓸게요” 약속이었지, 데이터 자체가 모델에 들어가는 걸 막는 건 아니었죠. 프라이버시 필터는 모델에 도달하기 전 단계에서 한 번 거른다는 점에서 결이 다릅니다.

왜 지금일까 — 엔터프라이즈 시장의 압박

이게 갑자기 나온 건 아닙니다. 지난 1년간 글로벌 기업들의 ChatGPT 도입은 폭발적으로 늘었지만, 동시에 ‘섀도우 AI’ 문제도 따라왔습니다. 직원이 회사 모르게 민감 자료를 ChatGPT에 붙여넣는 사고가 끊이지 않았죠.

특히 인도 GCC(Global Capability Center)들은 새로운 데이터 보호 규제 압박을 강하게 받고 있다는 보도가 같은 주에 나왔습니다. 유럽 GDPR, 한국 개인정보보호법, 미국 주별 프라이버시법까지 — OpenAI 입장에선 “우리 제품 쓰면 컴플라이언스 OK”라는 메시지를 줄 장치가 절실했던 겁니다.

워크스페이스 에이전트와의 한 세트

흥미로운 건 프라이버시 필터가 단독 발표가 아니라는 점입니다. 같은 날 공개된 워크스페이스 에이전트(Workspace Agents)와 묶음으로 나왔는데요. 에이전트가 사내 문서, 이메일, 캘린더를 자유롭게 돌아다니며 작업하려면, 데이터 보호 장치가 전제 조건이기 때문입니다.

쉽게 말해 “자율 에이전트 = 데이터 노출 위험 폭증”이라는 공식을 OpenAI도 알고 있었던 거죠. 필터 없이 에이전트만 풀었다간 CISO들이 도입을 막을 게 뻔했으니까요.

그래서, 믿을 만한가

여기서 냉정해질 필요가 있습니다. 프라이버시 필터에는 아직 풀리지 않은 질문이 몇 가지 있습니다.

첫째, 탐지 정확도입니다. 정형화된 신용카드 번호는 잡기 쉽지만, “다음 분기 M&A 대상 기업 리스트” 같은 문맥 기반 기밀은 어떻게 거를까요. 둘째, 오탐 비용입니다. 너무 빡빡하면 정상 업무도 막히고, 너무 느슨하면 필터 의미가 사라집니다. 셋째, 감사 가능성입니다. 무엇이 어떻게 걸렸는지 기업 보안팀이 추적할 수 있어야 진짜 컴플라이언스 도구가 됩니다.

마무리 — 신뢰는 약속이 아니라 검증으로

OpenAI가 프라이버시 필터를 꺼낸 건 분명 진전입니다. 다만 “필터가 있다"는 사실 자체가 안전을 보장하지는 않습니다. 결국 중요한 건 독립 감사 보고서, SOC 2 같은 인증, 그리고 실제 사고 발생 시 OpenAI가 어떻게 대응하느냐입니다.

당신의 회사라면 이 필터 하나만 믿고 ChatGPT에 내부 문서를 올리시겠습니까. 아니면 여전히 한 겹의 자체 보안 레이어를 더 두시겠습니까.