AI가 밤새 쓴 돈, 누가 멈출까: 지출 상한이 기본값이어야 하는 이유

핵심 요약

• AI 에이전트가 작업을 반복하면 유료 API 호출과 비용이 늘어날 수 있습니다.
• 예산 알림은 초과 사실을 알려주고, 강제 지출 상한은 추가 사용을 막습니다.
• 지출 상한을 지키려면 실행 중인 작업에서 앞으로 발생할 비용도 계산에 넣어야 합니다.
• 예산을 늘릴지는 사용자가 결정하고, 에이전트는 정해진 한도 안에서 움직이도록 설계해야 합니다.

잠들기 전 AI 에이전트에 “자료를 모으고 결과까지 정리해 주세요”라고 맡겼다고 해보겠습니다. 아침에는 완성된 보고서뿐 아니라 청구서까지 확인해야 할 수 있습니다. 에이전트가 작업을 끝내려고 밤새 유료 서비스를 호출했다면 그만큼 비용도 쌓였을 테니까요.

“예산을 넘었습니다”라는 알림으로는 부족합니다

AI 에이전트는 도구를 호출해 목표를 수행하는 프로그램입니다. 호출 결과를 보고 다음 행동을 정하면서, 한 번 답하고 끝나는 대신 여러 단계에 걸쳐 작업을 이어갈 수 있습니다.

작업 횟수가 늘면 비용도 함께 늘어날 수 있습니다. 검색 결과가 부족해 다시 검색하거나 오류가 나서 재시도할 때도 유료 API를 쓸 수 있기 때문입니다. API는 프로그램이 다른 서비스의 기능을 요청하는 통로입니다. 호출량이나 처리량에 따라 요금을 받는 서비스라면, 반복해서 실행할 때마다 추가 비용이 듭니다.

여기서 예산 알림과 강제 지출 상한을 구분해야 합니다. 알림은 “정한 금액에 도달했습니다”라고 알려줍니다. 강제 상한은 그 시점부터 추가 비용이 드는 사용을 막습니다.

사용자가 자고 있다면 알림을 바로 확인하기 어렵습니다. 사람이 즉시 확인하고 대응해야 하는 장치만으로는 에이전트가 혼자 실행하는 동안 비용을 통제하기 어렵습니다.

지출 한도도 작업 지시의 일부입니다

가령 자료 조사 한 건에 1만 원까지 쓰도록 허용했다고 해보겠습니다. 이는 설명을 위한 가정입니다.

사용자가 승인한 것은 ‘자료 조사’라는 목표와 ‘1만 원’이라는 예산입니다. 에이전트가 돈을 더 쓰면 좋은 결과를 얻을 수 있다고 판단하더라도, 그 판단만으로 예산을 넘겨 쓸 권한까지 생겨서는 안 됩니다.

지출 상한은 작업을 맡길 때 함께 정하는 기본 조건이어야 합니다. 사용자가 설정 화면을 찾아 들어가 따로 켜는 부가 기능으로 두기보다, 작업 범위를 정할 때 쓸 수 있는 금액도 함께 정하도록 해야 합니다.

한도를 어디에 적용할지도 분명해야 합니다. 작업마다 1만 원을 허용하더라도 열 개를 동시에 실행하면 총지출은 달라집니다. 작업별 한도와 함께 프로젝트나 계정 전체에도 한도를 둬야 하는 이유입니다.

좋은 결과를 만들 권한을 줬다고 해서 돈을 더 쓸 권한까지 준 것은 아닙니다.

진짜 상한은 다음 호출 전에 작동해야 합니다

화면에 한도 금액을 표시했다고 강제 상한이 작동하는 것은 아닙니다. 비용을 언제 계산하고, 어느 시점에 다음 실행을 막는지가 중요합니다.

예를 들어 한도가 1만 원이고 지금까지 확인된 사용액이 9천 원이라고 해보겠습니다. 아직 처리 중인 요청에서 2천 원이 추가로 발생한다면, 화면에 표시된 금액만 보고 다음 요청을 허용해서는 상한을 지킬 수 없습니다.

상한을 엄격히 지키려면 이미 쓴 돈에 더해 진행 중인 요청에 필요한 예산도 계산에 넣어야 합니다. 다음 요청의 최대 비용을 제한할 수 있다면, 그만큼의 예산을 미리 확보해 둔 뒤 요청을 실행하도록 설계할 수 있습니다.

클라우드 자원도 따로 살펴야 합니다. 에이전트가 새 명령을 내리지 않아도 이미 켜 둔 서버에서 비용이 계속 발생한다면, 명령을 멈추는 것만으로는 지출을 막을 수 없습니다.

따라서 ‘한도 도달 시 중단’이라고 설명하려면 무엇을 멈추는지도 밝혀야 합니다. 새 요청만 차단하는지, 실행 중인 작업도 종료하는지에 따라 막을 수 있는 비용이 다릅니다. 계속 과금되는 자원까지 정리하는지도 확인해야 합니다.

예산이 끝났을 때의 행동까지 설계해야 합니다

상한에 도달한 에이전트가 오류 메시지만 남기면 사용자는 답답합니다. 작업이 어디까지 끝났고 무엇이 남았는지 알아야 계속할지 결정할 수 있기 때문입니다.

비용 때문에 멈출 때 어떻게 처리할지도 미리 정해야 합니다. 진행 상태를 보존하고, 완료한 부분과 남은 부분을 보여줘야 합니다. 추가 예산이 필요하다면 예상 비용을 알리면서 그 추정에 어떤 불확실성이 있는지도 함께 설명해야 합니다.

이때 에이전트가 스스로 한도를 올리거나 다른 결제 경로로 작업을 이어간다면 상한을 둔 의미가 사라집니다. 예산을 늘려 계속할지는 사용자가 결정해야 합니다. 목표를 줄이거나 현재 결과로 끝내는 선택도 할 수 있어야 합니다.

저는 에이전트가 기본적으로 정해진 예산 안에서 실행하고, 부족하면 멈춰서 선택권을 돌려주는 것을 원칙으로 삼아야 한다고 생각합니다.

AI에 더 긴 작업을 맡기려면 비용을 어디까지 허용하는지도 분명히 정해야 합니다. 지출 상한은 에이전트에게 맡긴 권한이 어디까지인지를 금액으로 정해 줍니다. 오늘 밤 에이전트에 일을 맡긴다면, 원하는 결과물과 함께 ‘얼마에서 멈출지’도 정해 두세요.