AWS 베드락 에이전트코어, 에이전트 행동 시퀀스 통제 기능 추가

에이전트 신뢰 문제, 확장의 최대 걸림돌로

아마존웹서비스(AWS)가 베드락 에이전트코어(Amazon Bedrock AgentCore)에 새로운 보안·비용 통제 기능을 추가했다고 밝혔다. 맥킨지 조사를 인용해 "약 80%의 조직이 이미 AI 에이전트의 위험한 행동을 경험했다"고 전하며, 보안과 리스크 우려가 에이전트형 AI 확장의 가장 큰 장벽이 됐다고 설명했다.

개별 행동만 보던 기존 가드레일의 한계

AWS는 기존 대부분의 가드레일이 예측 가능한 소프트웨어를 전제로 설계돼 있다고 지적했다. 에이전트가 스스로 경로를 결정하며 움직이기 때문에, 각 단계는 개별적으로는 문제없이 통과하지만 전체 흐름은 검증되지 않는 경우가 생긴다는 것이다. 예로 든 사례는 세 가지다. 계좌 조회 후 다른 계좌로 송금하는 에이전트, 승인 한도 아래로 여러 건의 주문을 나눠 총액을 초과하는 에이전트, 실패한 도구 호출을 밤새 재시도하며 토큰 예산을 소진하는 에이전트다. 개별 요청은 모두 정당했지만 패턴 자체가 문제였다는 설명이다.

도그우드 기반 템포럴 정책

이번에 추가된 템포럴 정책은 기존 정책 엔진을 확장한 기능이다. 기존 정책은 매 요청을 독립적으로 빠르게 판단하는 무상태(stateless) 방식이었지만, 템포럴 정책은 해당 세션에서 에이전트가 이미 수행한 행동까지 함께 살펴본 뒤 다음 호출의 허용 여부를 결정한다. 이전 호출에서 반환된 값과 이후 호출에 입력된 값이 일치하는지 요구하거나, 세션 내 누적 지출을 집계해 개별 한도 이하라도 예산 초과 시 다음 구매를 차단할 수 있다. 단계가 정해진 순서대로 진행되도록 강제하거나, 중요한 작업에는 사람의 승인 기록을 요구하는 것도 가능하다. 이 기능은 새로 공개된 오픈소스 정책 언어 도그우드가 뒷받침한다.


게이트웨이 속도 제한도 함께 도입

베드락 에이전트코어의 게이트웨이는 MCP 서버, LLM, 에이전트, 지식베이스로 향하는 모든 AI 트래픽이 지나가는 완전관리형 서버리스 진입점이다. AWS는 모든 호출이 이 지점을 통과한다는 점에 착안해, 에이전트의 행동 방식과 무관하게 적용되는 한도를 게이트웨이 단에 두는 방식을 택했다고 설명했다. 이번에 추가된 속도 제한(rate limiting) 기능은 이러한 원칙을 트래픽 빈도 차원에서 구현한 것으로, 토큰 소진형 재시도 같은 상황에서 비용 상한을 유지하는 역할을 한다.

기능 비교

구분	적용 범위	핵심 동작
기존 정책	개별 액션	매 요청을 독립적으로 판단
템포럴 정책(도그우드)	세션 전체 시퀀스	누적 지출·순서·이전 호출값 일치 여부 검증
게이트웨이 속도 제한	게이트웨이 트래픽 전체	요청 빈도 제한으로 비용 상한 유지

메탈랩이 다뤄온 에이전트 관련 기사에서도 자율성이 커진 AI 에이전트의 통제 이슈가 반복적으로 지적된 바 있다.

남은 과제

AWS는 신뢰가 확보된 가드레일이 자리 잡으면 새 에이전트를 승인하는 과정이 개별 협상이 아니라 플랫폼 차원에서 처리되는 절차로 바뀔 것이라는 전망을 밝혔다. 다만 이번 발표에는 도그우드의 구체적 문법이나 템포럴 정책의 세부 적용 범위, 속도 제한의 구체적 수치 등은 포함되지 않아 실제 도입 효과는 추가 확인이 필요할 것으로 보인다.