템포럴 정책

템포럴 정책은 AI 에이전트가 지금까지 한 행동 전체를 기억해뒀다가, 그 흐름을 보고 다음 행동을 허락할지 판단하는 규칙이다. 매장 보안요원이 손님 한 명의 특정 순간 행동만 보는 게 아니라, 그 손님이 들어와서 지금까지 돌아다닌 동선 전체를 봐야 이상한 낌새를 알아채는 것과 비슷하다.

기존 방식은 요청 하나하나를 그때그때 따로 판단했다. 계좌를 조회하는 것도 정상, 돈을 보내는 것도 정상, 승인 한도 아래로 결제하는 것도 정상이니 매번 통과된다. 문제는 이 정상적인 행동들이 이어지면 계좌 조회 직후 다른 곳으로 송금하거나, 한도를 피하려고 여러 건으로 쪼개 총액을 초과하는 식의 위험한 패턴이 만들어진다는 점이다. 템포럴 정책은 이전 호출에서 무엇을 했는지, 지금까지 얼마를 썼는지, 순서가 맞는지를 함께 확인해서 이런 패턴을 잡아낸다.

예를 들어 실패한 요청을 밤새 재시도하며 비용을 계속 소진하는 에이전트가 있다면, 매 시도는 개별적으로 문제없어 보여도 누적된 흐름을 보는 템포럴 정책은 이를 막을 수 있다.

기사는 "템포럴 정책은 해당 세션에서 에이전트가 이미 수행한 행동까지 함께 살펴본 뒤 다음 호출의 허용 여부를 결정한다"고 설명한다. 오해하기 쉬운 점은 이것이 일반적인 AI 안전 필터가 아니라, 아마존 베드락 에이전트코어에 추가된 특정 기능이라는 것이다. 이 기능은 오픈소스 정책 언어인 도그우드가 뒷받침한다.