30년 전 CA 키가 깨졌다, 암호보다 오래 살아남은 ‘레거시 신뢰’

30년 전 인증기관이 만든 RSA 키도 오늘날의 컴퓨팅 자원으로는 깨뜨릴 수 있습니다. 더 놀라운 건 수학 자체가 아닙니다. 1990년대의 신뢰가 2026년 시스템 어딘가에 아직 남아 있을 수 있다는 점입니다.

RSA 키를 ‘인수분해했다’는 말의 의미

RSA 공개키에는 아주 큰 숫자 하나가 들어 있습니다. 이 숫자는 두 소수를 곱해 만듭니다.

공개키만 보고 원래의 두 소수를 찾아내는 일이 소인수분해입니다. 키가 충분히 크면 현실적인 시간 안에 계산하기 어렵습니다. 하지만 두 소수를 알아내는 순간 상황은 달라집니다. 공격자는 그 정보로 개인키를 다시 만들 수 있습니다.

1990년대에는 512비트 RSA도 상용 시스템에서 사용됐습니다. 당시에는 계산 비용이 상당했지만, 지금은 같은 길이의 키를 안전하다고 보기 어렵습니다.

실제로 512비트 RSA 숫자인 RSA-155는 1999년에 분해됐습니다. 768비트 RSA 도전 과제도 2009년에 분해가 완료됐고, 결과는 2010년에 공개됐습니다. 반면 현대적인 서비스는 일반적으로 최소 2048비트 RSA를 사용합니다.

알고리즘 이름은 똑같이 RSA지만 키 길이에 따라 보안 수준은 완전히 달라집니다.

웹사이트 한 곳의 개인키가 유출되면 피해도 대체로 그 사이트에 머뭅니다. 하지만 인증기관, 즉 CA의 개인키라면 이야기가 다릅니다.

CA는 다른 인증서가 진짜라고 보증합니다. 운영체제와 브라우저는 신뢰 저장소에 등록된 CA를 기준으로 인증서의 서명을 확인합니다. 이를 신뢰 체인이라고 부릅니다.

오래된 CA 공개키를 소인수분해해 개인키를 복원하면 공격자는 해당 CA의 서명을 흉내 낼 수 있습니다. 조건이 맞으면 가짜 서버 인증서나 코드 서명 인증서를 만들 수도 있습니다.

물론 개인키를 얻었다고 모든 최신 브라우저를 바로 속일 수 있는 것은 아닙니다. 인증서의 만료일, 용도 제한, 서명 알고리즘 정책, 폐기 상태가 함께 적용됩니다. 최신 브라우저는 짧은 RSA 키나 SHA-1 같은 낡은 방식을 강하게 차단합니다.

정작 문제는 브라우저 밖에 있습니다. 업데이트가 끊긴 산업용 장비, 오래된 자바 런타임, 사내 전용 프로그램은 과거의 CA를 계속 신뢰할 수 있습니다. 공격자가 노리는 것은 가장 단단한 최신 시스템보다 교체되지 않은 신뢰 저장소입니다.

인증서에는 만료일이 있습니다. 그래서 오래된 CA 인증서를 발견해도 “이미 만료됐으니 괜찮다”고 지나치기 쉽습니다.

하지만 만료됐다고 개인키까지 없어지는 것은 아닙니다. 시스템이 시간을 잘못 처리하거나 인증서 검증을 일부 생략하면 오래된 키가 다시 영향력을 가질 수 있습니다. 과거에 서명된 프로그램과 문서를 검증할 때도 낡은 신뢰 체인이 호출됩니다.

코드 서명 문제는 특히 복잡합니다. 타임스탬프가 붙은 서명은 인증서가 만료된 뒤에도 유효한 것으로 처리될 수 있습니다. 최신 폐기 목록을 받아오지 못하는 레거시 장비도 있습니다.

보안의 수명은 인증서에 적힌 날짜만으로 끝나지 않습니다. 그 인증서를 신뢰하는 마지막 소프트웨어가 사라질 때까지 이어집니다.

기업들은 흔히 새 인증서를 발급하면 전환이 끝났다고 생각합니다. 하지만 이전 CA가 어디에 남아 있는지 찾아내는 일이 더 어렵습니다.

살펴봐야 할 곳은 서버뿐만이 아닙니다. 노트북과 스마트폰의 신뢰 저장소, 네트워크 장비, 공장 설비, 펌웨어, 컨테이너 이미지, 자바 키스토어까지 범위가 넓습니다. 백업 이미지에 들어 있는 인증서도 놓치기 쉽습니다.

먼저 남아 있는 신뢰부터 찾아야 합니다.

양자컴퓨터 시대에 대비하는 포스트퀀텀 암호 전환도 다르지 않습니다. 새로운 알고리즘을 도입하는 것보다 오래된 신뢰를 빠짐없이 걷어내는 데 더 오래 걸릴 수 있습니다.

최근 30일 동안 이 사안을 다룬 검증 가능한 커뮤니티 논의는 확인되지 않았습니다. 그렇다고 이 위험이 최근에 생긴 것은 아닙니다. 오랫동안 주목받지 못했다는 사실이야말로 레거시 보안의 특성을 잘 보여줍니다.

30년 전 RSA 키가 깨졌다는 소식을 과거 기술을 조롱할 이야기로만 볼 수는 없습니다. 지금 쓰는 시스템이 무엇을 믿고 있는지 다시 확인하라는 경고에 가깝습니다. 여러분의 조직에는 주인이 사라졌는데도 여전히 신뢰받는 인증서가 몇 개나 남아 있을까요?