AI가 ‘돈 잃을 사람’을 골라 광고한다면

핵심 요약

• 광고 AI가 어떤 결과를 성과로 보느냐에 따라 개인화의 목적도 달라집니다.
• 추가 입금을 유도하는 광고는 이용자 보호와 충돌할 수 있습니다.
• 손실 이후의 행동을 예측하는 것과 개인의 중독 상태를 판단하는 것은 다른 문제입니다.
• 이용자를 보호하는 개인화라면 광고를 보내지 않을 조건도 정해야 합니다.

광고가 내 취향은 물론, 내가 유혹에 흔들릴 순간까지 알아맞힌다면 어떨까요. 드래프트킹스 같은 스포츠 베팅 서비스라면 가볍게 넘기기 어려운 질문입니다. AI를 활용한 베팅 광고를 평가할 때는 추천이 얼마나 정확한지만큼이나 무엇을 유도하는가를 따져야 합니다.

AI는 무엇을 잘하도록 설계됐을까요

개인화 광고는 사람마다 다른 메시지를 보여주는 방식입니다. 행동 기반 광고는 어떤 메시지를 보여줄지 판단할 때 방문 기록이나 클릭 같은 행동 정보를 활용합니다.

여기에 AI를 쓰면 이용자가 특정 광고에 반응할 가능성을 예측하게 할 수 있습니다. 이때 무엇을 예측하도록 하느냐가 중요합니다. 광고 클릭, 가입, 추가 입금 중 무엇을 성과로 정하느냐에 따라 모델이 찾는 이용자도 달라질 수 있습니다.

가령 ‘광고 이후 추가 입금’을 목표로 정했다고 해보겠습니다. 그러면 추가 입금으로 이어질 가능성이 높은 행동 패턴을 찾도록 모델을 학습시킬 수 있습니다. 그렇다고 그 입금이 이용자의 계획에 따른 것인지, 손실을 만회하려는 충동에서 비롯됐는지까지 모델이 알아서 구별해주지는 않습니다.

같은 광고 성과로 집계한 숫자라도, 그 안에는 서로 다른 사정이 섞여 있을 수 있습니다.

‘돈 잃을 사람’이라는 표현에 숨은 차이

AI가 돈 잃을 사람을 골라낸다는 말은 강렬합니다. 하지만 이 말에서 적어도 두 가지는 구분해야 합니다. 앞으로 손실을 볼 가능성을 예측한다는 뜻인지, 손실 이후에도 계속 베팅할 가능성을 예측한다는 뜻인지 살펴봐야 합니다.

손실 이후의 베팅을 예측하려는 모델이라면 경기 결과를 맞힐 필요가 없습니다. 광고를 본 사람이 다시 입금할 가능성만 예측해도 목표에 가까워질 수 있습니다.

다만 행동 데이터에서 찾은 상관관계를 개인의 심리 상태로 곧바로 해석해서는 안 됩니다. 접속이 잦거나 추가 입금을 한다는 이유만으로 누군가를 중독 상태라고 단정할 수는 없습니다. 그렇다고 중독 여부를 확정하지 못했으니 그 행동을 광고에 활용해도 무조건 괜찮다고 볼 수도 없습니다.

드래프트킹스가 실제로 광고를 어떻게 운영하는지 평가할 때도 무엇을 목표로 삼았고 어떤 데이터를 썼는지 확인해야 합니다. 광고를 전달한 시점도 살펴봐야 합니다. ‘AI를 썼다’는 설명만으로는 취향에 맞춰 추천한 것인지, 취약한 순간을 노린 것인지 구분하기 어렵습니다.

같은 혜택도 손실 직후에는 다르게 작동합니다

이용자가 5만 원을 잃은 직후, 추가 입금 혜택을 알리는 광고를 받았다고 가정해보겠습니다.

그 광고를 손실 여부와 관계없이 정해진 일정에 따라 보냈는지부터 살펴봐야 합니다. 손실 직후에 입금할 가능성이 높다는 예측 때문에 보냈다면 따져볼 문제가 더 생깁니다. 이용자가 멈출 수 있었던 순간에 광고가 다시 베팅할 계기를 줄 수 있기 때문입니다.

그래서 광고 문구만 봐서는 판단하기 어렵습니다. 누구에게 언제 보냈는지, 광고를 받은 사람이 어떤 행동을 하길 기대했는지도 함께 봐야 합니다.

이때는 같은 데이터를 보고 이용자를 쉬게 할 수도 있었는가를 물어볼 만합니다. 그런 선택지가 있었는데도 추가 입금을 유도했다면, 무엇을 위해 개인화했는지 더 따져봐야 합니다.

광고를 보내지 않는 것도 개인화입니다

개인화 기술을 꼭 특정 메시지를 보내는 데만 써야 하는 것은 아닙니다. 상황에 따라 광고를 줄이거나 아예 중단하도록 설계할 수도 있습니다.

예를 들어 이용자가 스스로 정한 휴식 기간에는 판촉 메시지를 멈출 수 있습니다. 손실이나 반복 입금과 관련된 신호를 기준으로 광고 대상에서 제외하는 방법도 생각해볼 수 있습니다. 특정 기업이 현재 이렇게 운영한다는 뜻은 아닙니다. 서비스를 설계할 때 검토할 수 있는 선택지입니다.

성과를 평가하는 기준도 함께 바뀌어야 합니다. 추가 입금이 늘었다는 이유만으로 성공이라고 판단하면, 이용자가 원치 않게 지출을 늘린 경우를 놓칠 수 있습니다. 이용자가 정한 한도를 지켰는지, 쉬겠다는 의사를 존중했는지도 확인해야 합니다.

개인화 마케팅과 중독 착취의 경계는 AI의 성능만으로 정해지지 않습니다. 이용자의 취약한 순간을 예측할 수 있다면, 그 정보를 매출을 늘리는 데 쓸지 이용자에게 멈출 기회를 주는 데 쓸지 결정해야 합니다. 이용자를 잘 아는 서비스라면 쉬어야 할 때 광고를 거두는 데도 그 정보를 쓸 수 있어야 합니다.