맥이 내 가족관계를 추론한다면, 어디까지 동의한 걸까요?
핵심 요약
- 가족관계를 추론하면 사용자가 직접 입력하지 않은 관계 정보까지 만들어낼 수 있습니다.
- 개인 지식 그래프는 사람과 일정 등의 관계를 연결해 개인화에 쓰는 구조입니다.
- 내부 기능의 이름만으로는 실제로 작동하는지, 데이터를 어디까지 보내는지 알 수 없습니다.
- 기기 안에서 처리하더라도 사용자가 추론 결과를 확인하고 수정할 권한은 중요합니다.
맥이 연락처와 일정을 살펴본 뒤 “이 사람은 당신의 가족일 가능성이 높습니다”라고 판단한다면 어떨까요? AI에 일정 관리와 메시지 작성을 맡기다 보면, AI가 사람 사이의 관계를 어떻게 파악하는지도 신경 쓰게 됩니다. 맥이 편리한 비서가 되려면 나를 얼마나 알아야 할까요? 어디까지 알아도 되는지는 누가 정할지도 함께 따져봐야 합니다.
연락처를 읽는 것과 가족을 알아내는 것은 다릅니다
연락처에 누군가를 ‘어머니’라고 저장했다면 사용자가 직접 관계를 알려준 것입니다. 하지만 AI가 같은 주소와 반복되는 일정 등을 보고 가족이라고 판단했다면 경우가 다릅니다. 사용자가 입력한 정보를 읽는 데 그치지 않고, 새로운 관계 정보를 추론했기 때문입니다.
이런 일을 하는 프로그램을 가족관계 분류기라고 부를 수 있습니다. 여러 단서를 살펴보고 관계를 특정 범주로 분류하는 방식입니다. 다만 그렇게 분류했다고 해서 실제 관계를 확인한 것은 아닙니다. 같은 주소에 사는 사람은 가족일 수도 있고 룸메이트일 수도 있습니다.
이렇게 파악한 관계를 연결해 놓은 구조가 개인 지식 그래프입니다. 사람, 장소, 일정 같은 정보를 각각 점으로 표시하고, 서로 어떤 관계인지 선으로 이어 놓았다고 생각하면 됩니다.
가령 ‘나’와 ‘민수’ 사이에 가족이라는 연결이 있다면, AI는 이를 참고해 “다음 주 가족과 함께하는 일정”이라는 요청을 이해할 수 있습니다. 그런데 그 연결부터 틀렸다면 어떻게 될까요? 관계 하나를 잘못 짚은 탓에 이후의 추천과 응답까지 달라질 수 있습니다.
‘문서화되지 않았다’는 표현만으로 결론낼 수는 없습니다
‘문서화되지 않은 가족관계 분류기’라는 표현을 보면 불안할 수 있습니다. 하지만 내부 구성 요소에 그런 이름이 붙어 있다는 것만으로 맥이 실제로 누구의 데이터를 읽는지 알 수는 없습니다.
특정 macOS 버전에서 이런 기능이 작동한다고 판단하려면 어떤 조건에서 켜지고 실제로 어떻게 동작하는지 확인해야 합니다. 관련 코드가 존재하는 것과 그 코드가 사용자 정보를 처리하는 것은 별개입니다. 다른 기능이 그 결과를 쓰는지도 따로 확인해야 합니다.
외부 전송 여부 역시 확인이 필요합니다. 관계를 추론한다는 이유만으로 애플 서버에 가족관계가 저장된다고 단정할 수는 없습니다. 내부 기능이라는 이유만으로 모든 처리가 기기 안에서 끝난다고 가정하는 것도 곤란합니다.
사용자에게는 구체적인 설명이 필요합니다. 어떤 정보를 보고 관계를 판단하는지부터 알 수 있어야 합니다. 그 결과를 얼마나 오래 보관하고 어디에 쓰는지도 밝혀야 합니다. 프라이버시에 어떤 영향을 미치는지 판단하려면 기능의 이름보다 실제 동작을 살펴봐야 합니다.
맥 안에서만 처리해도 동의 문제는 남습니다
맥이 가족관계 추론을 모두 기기 안에서 처리한다고 가정해 보겠습니다. 외부로 데이터를 보낼 때 생기는 노출 위험은 줄일 수 있습니다. 그렇다고 사용자가 가족관계를 추론하는 데까지 동의했다고 볼 수는 없습니다.
사용자는 그저 메시지를 보낼 사람을 찾으려고 연락처 접근을 허용했을 수 있습니다. 이를 사람 사이의 관계까지 분석해도 된다는 뜻으로 받아들인다면, 사용자가 생각한 허용 범위와 기능이 실제로 하는 일이 달라집니다.
그래서 데이터 접근과 추론에 대한 동의를 나눠 생각해야 합니다. 사용자 입장에서는 연락처를 읽는 것과 그 연락처로 가족관계도를 만드는 것이 다르게 느껴질 수 있습니다.
추론 결과를 어디에 쓰는지도 살펴봐야 합니다. 관계 정보를 참고해 일정 후보를 보여주는 것과 공유할 사람을 자동으로 고르는 것은 결과가 다릅니다. 특히 다른 사람에게 정보를 보내는 단계에서는 사용자가 수신자를 확인할 수 있어야 합니다.
좋은 개인화에는 ‘틀렸습니다’ 버튼이 필요합니다
개인화 AI 설정에 켜기와 끄기만 있다면 부족합니다. 사용자는 AI가 자신에 대해 무엇을 알고 있다고 판단하는지도 들여다볼 수 있어야 합니다.
가족관계를 추론하는 기능을 제공한다면 사용자가 다음과 같이 관리할 수 있어야 합니다.
- 추론한 관계와 사용자가 직접 입력한 관계를 구분해 보여주기
- 잘못된 관계를 수정하거나 삭제할 수 있게 하기
- 특정 인물에 대한 관계 추론을 중단할 수 있게 하기
- 관계 정보를 활용해 공유할 때 수신자를 확인하게 하기
특히 삭제와 추론 중단은 구분해야 합니다. 사용자가 잘못된 가족관계를 지웠는데 AI가 같은 단서를 보고 곧바로 다시 만들어낸다면, 삭제 버튼을 눌러도 문제는 그대로입니다.
기능을 설명하는 문구도 구체적이어야 합니다. “개인화 품질을 개선합니다”라는 안내만 보고 가족관계까지 추론하리라고 예상하기는 어렵습니다. “연락처와 일정의 단서로 가족일 가능성이 있는 사람을 제안합니다”처럼 실제로 하는 일을 알려줘야 사용자가 동의할지 판단할 수 있습니다.
맥이 가족관계를 이해하면 같은 내용을 반복해서 설명하는 수고를 덜 수 있습니다. 그 편리함을 믿고 쓰려면 맥의 판단을 사용자가 확인하고 바로잡을 수 있어야 합니다. 가족을 알아서 짐작하게 할지, 직접 알려준 관계까지만 기억하게 할지도 사용자가 정할 수 있어야 합니다.
댓글
댓글을 불러오는 중...