노션 3분 소요

노션의 AI 공급사가 해킹된다면, 내 문서는 누가 책임질까

핵심 요약

  • 외부 AI 공급사의 시스템이 침해됐다고 해서 고객 문서까지 유출됐다는 뜻은 아닙니다.
  • 데이터를 학습에 쓰는지와 처리하는 동안 보관하는지는 별개의 문제입니다.
  • SaaS 운영사는 외부 공급사까지 데이터가 어떤 경로로 오가는지 파악하고 고객에게 설명할 수 있어야 합니다.
  • AI를 도입할 때는 성능뿐 아니라 어떤 데이터를 전달하는지, 얼마나 보관하는지, 사고가 나면 어떻게 알리는지도 확인해야 합니다.

노션에서 AI로 회의록을 요약할 때 누르는 버튼은 노션 안에 있습니다. 하지만 외부 AI 업체가 내용을 처리한다면 보안 점검도 그 업체까지 해야 합니다. 그곳에서 사고가 나면 고객은 누구에게 내 문서가 어떻게 됐는지 물어야 할까요?

공급사 침해와 고객 데이터 유출은 다른 사실입니다

Fireworks AI에 침해 사고가 발생했다고 가정해도, 그것만으로 노션 고객 문서가 유출됐다고 결론 내릴 수는 없습니다. 먼저 두 회사가 데이터를 어떻게 주고받고 처리하는지 확인해야 합니다. 공격자가 접근한 환경이 그 데이터와 연결돼 있었는지도 살펴봐야 합니다.

확인은 다음 세 가지 순서로 진행해야 합니다.

  1. 공격자가 어떤 시스템에 접근했는가.
  2. 그 시스템에 고객 데이터가 있었거나 통과했는가.
  3. 공격자가 해당 데이터를 열람하거나 외부로 가져갔는가.

이 과정을 건너뛰면 공급사 내부 계정이 침해된 일과 고객 문서가 유출된 일을 같은 사건처럼 다루게 됩니다. 반대로 저장된 문서가 없었다는 설명만 듣고, 처리 중이던 데이터까지 안전했다고 판단해서도 안 됩니다.

그래서 침해된 시스템의 범위와 영향받은 데이터의 범위는 따로 봐야 합니다. 서비스 이름 두 개가 함께 나왔다는 것만으로는 알 수 있는 게 많지 않습니다. 실제로 둘 사이에 어떤 데이터가 오갔는지 확인해야 합니다.

‘AI 학습에 쓰지 않는다’는 설명만으로는 부족합니다

AI 서비스의 데이터 정책을 읽다 보면 눈에 들어오는 문구가 있습니다. “고객 데이터를 모델 학습에 사용하지 않습니다”라는 약속입니다.

학습에 쓰지 않겠다는 약속은 중요합니다. 다만 이 설명으로 알 수 있는 것은 고객 문서를 AI 모델을 개선하는 데 쓰느냐는 점까지입니다.

요청을 처리하는 동안 데이터를 보관하는지는 따로 확인해야 합니다. 오류를 분석하려고 남긴 기록에 입력 내용이 포함되는지도 봐야 합니다. 그런 기록을 남긴다면 누가 볼 수 있는지, 언제 삭제하는지까지 확인할 필요가 있습니다.

회의록 요약 서비스를 예로 들어 보겠습니다. 문서를 학습에 쓰지 않으면서도 장애 원인을 분석하려고 입력 내용 일부를 기록하도록 설계할 수 있습니다. 특정 업체가 실제로 이렇게 운영한다는 뜻은 아닙니다. 데이터 정책을 읽을 때 두 경우를 구분해야 한다는 예시입니다.

학습에 사용하지 않음과 저장하지 않음은 서로 다른 약속입니다. 데이터를 보관하지 않더라도 처리하는 순간에는 누가 접근할 수 있는지 통제해야 합니다.

고객에게 설명할 책임까지 외주화할 수 있을까요?

SaaS는 소프트웨어를 설치하는 대신 인터넷으로 이용하는 서비스입니다. 이런 서비스에서 외부 AI 업체를 쓰면 고객이 선택한 회사와 실제로 데이터를 처리하는 회사가 달라질 수 있습니다.

고객은 대개 화면에 보이는 서비스를 보고 선택합니다. 그 뒤에서 일하는 AI 공급사까지 직접 고르거나 관리하기는 어렵습니다. 공급사가 바뀌더라도 평소 누르던 버튼은 그대로일 수 있습니다.

그래서 저는 고객에게 설명하고 대응하는 책임을 고객이 직접 이용하는 서비스의 운영사가 맡아야 한다고 봅니다. 노션 같은 서비스라면 어떤 기능을 쓸 때 어떤 데이터가 외부로 나가는지 파악하고 있어야 합니다. 사고가 나면 어느 고객의 어떤 데이터가 영향을 받았는지 설명할 수 있어야 합니다.

“외부 업체에서 발생한 사고입니다”라는 말로 사고 원인을 설명할 수는 있습니다. 하지만 고객은 내 문서가 영향을 받았는지부터 알고 싶습니다. 지금 어떤 조치를 해야 하는지, 같은 경로를 계속 사용해도 되는지도 알아야 합니다.

운영사는 사고가 나기 전에 공급사와 조사에 필요한 기록을 정해 두고, 사고를 알리는 방식과 각자의 대응 역할도 합의해 둬야 합니다. 사고가 난 뒤 안내문을 잘 쓰는 것만으로는 고객에게 필요한 설명을 하기 어렵습니다.

AI 도입 전에 물어야 할 세 가지

기업에서 AI 기능을 도입할 때는 “답변이 얼마나 좋은가”와 함께 데이터를 어떻게 다루는지도 물어야 합니다. 다음처럼 질문을 구체적으로 해야 무엇을 확인해야 할지 분명해집니다.

  • 전달 범위: 선택한 문단만 보내는지, 문서 전체나 연결된 자료까지 보내는지.
  • 보관과 접근: 입력·출력·처리 기록을 얼마나 보관하며, 누가 접근할 수 있는지.
  • 사고 대응: 공급사 사고를 어떻게 통지하며, 필요할 때 데이터 전송을 중단할 수 있는지.

공개된 제품 소개문과 미공개 인사평가 문서는 같은 요약 기능에 넣어도 노출됐을 때의 영향이 다릅니다. 기능마다 데이터가 어디로 가는지 알아야 어떤 문서에 AI를 쓰도록 허용할지 판단하기가 쉬워집니다.

외부 AI를 쓴다는 이유만으로 서비스의 보안 수준을 판단할 수는 없습니다. 저는 운영사가 데이터 처리 구조를 얼마나 잘 알고 있는지, 문제가 생겼을 때 고객에게 얼마나 구체적으로 설명할 수 있는지를 더 중요하게 봅니다.

AI 기능 하나를 쓰는 동안에도 여러 회사가 데이터를 처리할 수 있습니다. 우리가 쓰는 서비스가 “내 문서가 어디로 갔고, 언제 삭제되며, 사고가 나면 누가 알려주는가”라는 질문에 답할 수 있는지 확인해야 합니다.

노션 Fireworks AI AI 보안

댓글

    댓글을 불러오는 중...