AI의 기억력을 늘리면 될까요? 문서도 틀릴 수 있다는 문제

핵심 요약

• AI의 작업 기억은 과거의 맥락을 남기고, 문서는 함께 따를 기준을 정리하는 데 유용합니다.
• RAG로 문서를 검색해도 그 내용이 최신이거나 정확하다는 보장은 없습니다.
• 기억과 문서가 충돌하면 출처와 적용 시점, 승인 여부를 확인해야 합니다.
• 지식을 관리하려면 저장한 내용을 수정하고 폐기하는 절차도 필요합니다.

AI에게 여러 단계의 일을 맡기다 보면 “전에 알려줬는데, 왜 또 설명해야 하지?”라는 생각이 듭니다. 이럴 때는 AI가 더 많이 기억했으면 싶습니다. 하지만 이미 바뀐 업무 규칙까지 계속 기억한다면 또 다른 문제가 생깁니다.

기억에는 맥락을, 문서에는 함께 따를 기준을 남깁니다

여기서 말하는 작업 기억은 AI가 다음 작업에서 다시 쓰도록 남겨둔 과거의 기록입니다. 사용자가 선호하는 보고서 형식이나 이전 작업에서 막혔던 이유 같은 내용입니다.

예를 들어 “이 사용자는 표보다 짧은 문단을 선호한다”는 기억이 있으면 같은 요청을 되풀이할 필요가 줄어듭니다. “지난번에는 담당자의 확인을 기다리다가 작업을 멈췄다”는 기록은 중단한 일을 이어가는 데 도움이 됩니다.

문서는 여러 사람이 함께 따를 기준을 담기에 좋습니다. 업무 절차, 제품 사양, 승인 규칙처럼 개인의 경험을 넘어 다른 사람과 공유해야 하는 내용을 정리합니다.

물론 둘의 경계가 뚜렷하지는 않습니다. 작업 기억을 문서로 저장할 수도 있습니다. 파일 형식보다는 그 기록에 어떤 권한을 줄 것인가를 따져야 합니다.

“지난번에 이렇게 처리했다”는 경험만으로 “앞으로도 이렇게 처리해도 된다”는 규칙을 만들면 곤란합니다. 한 번의 예외가 계속 적용될 수 있기 때문입니다.

RAG는 필요한 페이지를 찾아주지만, 내용을 보증하지는 않습니다

RAG는 질문과 관련된 자료를 찾아 AI가 답변할 때 참고하도록 하는 방식입니다. 질문을 받은 동료가 기억만 더듬는 대신 사내 매뉴얼을 펼쳐보는 모습과 비슷합니다.

그렇다고 매뉴얼에 있던 오류까지 사라지지는 않습니다. 검색으로 질문에 꼭 맞는 문단을 찾았어도, 그 안에 담긴 규칙은 이미 폐기됐을 수 있습니다.

가상의 배포 절차를 예로 들어보겠습니다. 예전에는 담당자 1명의 승인으로 충분했지만, 지금은 2명의 승인이 필요해졌다고 해보죠. 검색 시스템이 예전 문서를 가져오면 AI는 근거까지 붙여 잘못된 절차를 안내할 수 있습니다.

그래서 “출처가 달려 있다”와 “현재 적용되는 내용이다”는 따로 확인해야 합니다. 링크는 답변을 검토할 때 쓸 단서입니다. 링크가 있다는 이유만으로 검토를 마쳤다고 볼 수는 없습니다.

기억을 검색해서 꺼내 쓰는 시스템에서도 같은 문제가 생깁니다. 오래된 경험을 정확히 찾아오더라도, 그것만으로 현재 상황에 맞는 판단을 내릴 수 있다고 보기는 어렵습니다.

그렇다고 문서를 무조건 믿을 수도 없습니다

“기억보다 공식 문서를 우선하면 되겠네요”라고 생각하기 쉽습니다. 하지만 문서도 사람이 고쳐야 합니다. 실제 절차가 바뀌어도 매뉴얼을 고치지 않았다면 예전 내용이 그대로 남습니다.

반대로 AI의 작업 기록에는 최근 변경을 알리는 담당자의 지시가 들어 있을 수도 있습니다. 이때 문서를 무조건 우선하면 새 정보를 놓칩니다. 그렇다고 가장 최근 기록만 따르면 임시 예외를 정식 규칙으로 오해할 수 있습니다.

앞선 배포 사례에서 “이번 긴급 수정은 1명 승인으로 진행한다”는 지시가 있었다고 해보겠습니다. 어제 작성된 기록이라도 모든 배포에 적용되는 규칙은 아닙니다.

서로 다른 기록 중 어느 쪽을 따라야 할지 판단하려면 내용과 함께 다음 정보를 살펴야 합니다.

• 출처: 누가 어떤 권한으로 정한 내용인가요?
• 적용 범위: 전체 업무에 적용되나요, 특정 건의 예외인가요?
• 적용 시점: 언제부터 언제까지 유효한가요?
• 승인 상태: 검토 중인 제안인가요, 확정된 변경인가요?

수정 날짜만 봐서는 이 차이를 알기 어렵습니다. 어제 오탈자를 고친 문서라고 해서 지난주 승인된 정책보다 새로운 기준은 아니니까요.

근거를 확인하고도 어느 쪽을 따라야 할지 알 수 없다면, AI가 임의로 하나를 정답으로 고르지 않게 해야 합니다. 특히 승인이나 권한과 관련된 작업은 누구에게 확인할지도 정해두는 편이 좋습니다.

저장한 기록은 고치고 더 쓰지 않을 때도 정해야 합니다

기억과 문서를 함께 쓰려면 갱신 절차가 필요합니다. 새 정보를 어디에 기록할지 정하고, 누가 확인할지도 맡겨두어야 합니다. 기존 내용을 어떻게 처리할지도 이 절차에 포함합니다.

예를 들어 AI가 작업 중 기존 매뉴얼과 다른 지시를 받았다면, 우선 해당 작업의 기록으로 남길 수 있습니다. 담당자가 앞으로 계속 적용할 변경이라고 확인하면 공용 문서에 반영합니다. 이전 규칙에는 폐기 표시를 붙여 검색할 때도 현재 규칙과 구분할 수 있게 합니다.

작업 기억도 마찬가지로 점검해야 합니다. 특정 장애를 피하려고 썼던 임시 해결책을 문제가 해결된 뒤에도 계속 추천하면, 기억이 오히려 일을 꼬이게 만듭니다. “왜 이 방법을 썼는지”와 “어떤 조건에서 다시 써도 되는지”를 함께 남기면 이런 오해를 줄일 수 있습니다.

다만 모든 기록을 같은 주기로 점검할 필요는 없습니다. 보고서의 문단 길이 선호를 잘못 기억했을 때와 운영 시스템의 접근 권한을 잘못 알았을 때는 영향이 다릅니다. 자주 바뀌거나 오류의 영향이 큰 정보부터 확인 주기와 책임자를 정하는 편이 현실적입니다.

AI의 기억이 있으면 같은 설명을 반복하는 일이 줄어듭니다. 잘 관리된 문서가 있으면 함께 따를 판단 기준을 확인할 수 있습니다. 둘을 오래 쓰려면 잘못된 내용을 고치고 더는 유효하지 않은 내용은 제외해야 합니다. AI가 어제의 정답을 가져왔을 때, 오늘도 맞는지 확인할 방법까지 마련해두어야 합니다.