앤트로픽이 클로드의 '속마음'을 통째로 공개했습니다 — 시스템 프롬프트 공개는 투명성일까요

시작하기 전에 하나 밝혀둡니다. 이번 주제는 최근 30일 커뮤니티 데이터에 새로 올라온 스레드가 없었습니다. 그래서 이 글은 속보가 아닙니다. 앤트로픽이 그동안 실제로 해온 시스템 프롬프트 공개 정책, 그리고 그걸 두고 개발자 커뮤니티에서 되풀이돼온 논쟁을 정리한 글입니다. “어제 이런 난리가 났습니다” 같은 이야기를 기대하셨다면 미리 말씀드립니다.

시스템 프롬프트가 뭐길래

챗봇에 질문을 던지면 사실 모델이 보는 건 여러분의 질문만이 아닙니다. 그 앞에 회사가 미리 넣어둔 긴 지시문이 붙습니다. 이걸 시스템 프롬프트라고 부릅니다.

내용은 생각보다 잡다합니다. 오늘 날짜는 며칠인지, 학습 데이터는 언제까지인지, 어떤 주제를 조심스럽게 다뤄야 하는지, 답변 톤은 어때야 하는지, 코드는 어떤 식으로 써야 하는지 같은 이야기입니다. 클로드는 이 지시문이 수천 단어에 달합니다. 짧은 설정 파일이 아니라 사실상 행동 지침서입니다.

그러니까 시스템 프롬프트는 모델의 성격을 만드는 장치입니다. 같은 모델이라도 여기에 뭘 적느냐에 따라 전혀 다르게 굴 수 있습니다. 회사 입장에서는 제품의 상당 부분이 여기에 들어 있는 셈입니다.

앤트로픽은 왜 이걸 공개했을까요

앤트로픽은 클로드의 시스템 프롬프트를 릴리스 노트 페이지에 올려둡니다. 모델 버전이 바뀌면 프롬프트도 같이 바뀌고 그 변경 내역이 남습니다. 다른 주요 업체가 이걸 대외비로 다루는 걸 생각하면 확실히 튀는 선택입니다.

명분은 투명성입니다. 사용자가 이 모델이 왜 이렇게 답하는지 알 권리가 있다는 논리죠. 클로드가 특정 질문을 피하거나 유독 조심스럽게 대답할 때, 그게 모델이 학습으로 익힌 성향인지 아니면 위에서 시킨 지시인지 가려낼 수 있다는 겁니다. 개발자에게는 꽤 실용적인 정보이기도 합니다. 모델이 이상하게 굴 때 원인을 프롬프트에서 찾을 수 있으니까요.

다만 짚어둘 게 있습니다. 공개된 건 API와 챗 인터페이스의 기본 프롬프트입니다. 도구 사용이나 검색, 코드 실행 같은 기능이 붙을 때 따로 주입되는 부분까지 전부 나온 건 아닙니다. “속마음을 통째로 공개했다"는 표현은 좀 과장입니다. 정확히는 가장 큰 덩어리를 공개했다는 쪽이 맞습니다.

영업비밀 포기라는 반론

개발자 커뮤니티에서 꾸준히 나오는 반론이 있습니다. 이거 그냥 남 좋은 일 시키는 거 아니냐는 겁니다.

프롬프트 엔지니어링에는 분명 노하우가 있습니다. 어떤 문장을 어떤 순서로 배치해야 모델이 말을 잘 듣는지, 어떤 표현이 오히려 역효과를 내는지는 수많은 실험 끝에 나온 결과입니다. 그걸 공개하면 경쟁사가 그대로 베낄 수 있습니다. 실제로 오픈소스 모델 진영에서 상용 모델의 프롬프트 구조를 참고하는 건 흔한 일입니다.

반박도 만만치 않습니다. 어차피 다 새어나간다는 겁니다. 시스템 프롬프트는 탈옥 커뮤니티의 오랜 표적이었고 주요 모델의 프롬프트는 공개 여부와 상관없이 이미 인터넷 어딘가에 돌아다닙니다. 그럴 바에는 부정확한 유출본이 떠도는 것보다 공식 버전을 정확하게 올려두는 게 낫다는 계산이 섭니다.

저는 후자가 더 설득력 있다고 봅니다. 프롬프트는 복제하기 쉽지만 그 프롬프트가 잘 먹히도록 훈련된 모델은 복제할 수 없습니다. 레시피를 공개해도 주방이 없으면 같은 요리가 안 나오는 것과 비슷합니다.

공개가 만든 새로운 논쟁거리

프롬프트가 공개되면서 오히려 시끄러워진 지점도 있습니다.

가장 자주 도마에 오르는 건 분량입니다. 수천 단어짜리 지시문은 매 대화마다 컨텍스트를 차지합니다. 사용자가 쓰지도 않은 토큰이 계속 나가는 구조인데, 이게 비용에 어떻게 반영되는지 궁금해하는 사람이 많습니다. 실제로는 캐싱이 상당 부분 덜어주지만 “내가 왜 이 지시문 값을 내야 하나"라는 반발은 남습니다.

다른 하나는 지시문의 내용 자체입니다. 프롬프트에는 톤이나 안전 규칙뿐 아니라 특정 상황에서 어떻게 처신하라는 세세한 지침도 들어 있습니다. 이게 공개되니 “왜 이런 규칙을 넣었느냐"는 질문이 따라붙습니다. 숨겨뒀으면 아무도 안 물어봤을 질문이죠. 투명성의 대가입니다.

재미있는 건 이 논쟁 자체가 공개 덕분에 생겼다는 겁니다. 프롬프트를 감추는 회사를 두고는 애초에 이런 토론이 성립하지 않습니다. 비판할 대상이 안 보이니까요.

그래서 이게 업계 표준이 될까요

솔직히 회의적입니다.

앤트로픽이 공개할 수 있는 이유 하나는 공개해도 별로 부끄럽지 않은 내용이기 때문입니다. 프롬프트에 상업적으로 민감한 지시가 잔뜩 들어 있는 회사라면 사정이 다릅니다. 특정 제품을 추천하라거나 경쟁사 언급을 피하라거나 하는 지시가 있다면 공개는 곧 사고입니다.

그러니 이 정책은 일반적인 투명성 규범이라기보다 앤트로픽의 포지셔닝 전략에 가깝습니다. 안전과 정직을 브랜드로 내세운 회사가 그 주장을 확인해볼 수 있게 만든 방법인 셈이죠. 나쁜 전략이 아닙니다. 다만 다른 회사가 따라 하기엔 비용이 훨씬 큽니다.

하나는 분명합니다. AI 제품을 만드는 쪽이라면 시스템 프롬프트가 언젠가 공개될 수 있다는 전제로 쓰는 게 안전합니다. 유출되든 자발적으로 공개하든 그 안에 적힌 문장은 결국 누군가 읽습니다.

여러분이 쓰는 AI 서비스는 뒤에서 어떤 지시를 받고 있을까요. 그 내용을 알 수 없다는 걸 우리가 그동안 얼마나 당연하게 받아들여 왔는지도요.