이미지: AWS ML Blog
摘要
- 亚马逊在Bedrock AgentCore中新增了以会话为单位验证行动序列的时序策略功能
- 新推出的开源策略语言Dogwood为该功能提供支撑，网关端同时引入了速率限制功能
- 据麦肯锡调查显示，约80%的组织曾遭遇AI代理的危险行为
- 발표 주체
- AWS ML Blog, 작성자 마두 파르타사라티
- 신규 기능
- 템포럴 정책(도그우드 기반), 게이트웨이 속도 제한
- 도그우드
- AI 에이전트 전용 신규 오픈소스 정책 언어
- 게이트웨이 역할
- MCP 서버·LLM·에이전트·지식베이스로 트래픽을 라우팅하는 완전관리형 서버리스 진입점
- 맥킨지 통계
- 조직의 약 80%가 AI 에이전트의 위험 행동을 경험(State of AI Trust in 2026)
- 발행일
- 2026-08-06
代理信任问题，成为规模化扩张的最大障碍
亚马逊云科技（AWS）宣布为Amazon Bedrock AgentCore新增安全与成本控制功能。AWS援引麦肯锡调查称"约80%的组织已经经历过AI代理的危险行为"，并指出安全与风险方面的担忧已成为智能体式AI规模化应用的最大障碍。
现有护栏机制仅关注单一行动的局限性
AWS指出，现有的大多数护栏机制都是以可预测的软件为前提设计的。由于代理会自主决定行动路径，每个单独步骤看似都能顺利通过检查，但整体流程却未被验证，这种情况时有发生。文中举出三个例子：先查询账户余额、再向其他账户转账的代理；将订单拆分成多笔、每笔均低于审批额度、但总额超限的代理；以及因工具调用失败而通宵重试、耗尽token预算的代理。文章解释称，每个单独请求本身都是合规的，问题出在整体行为模式上。
基于Dogwood的时序策略
本次新增的时序策略是对现有策略引擎的扩展功能。此前的策略采用无状态（stateless）方式，对每个请求独立且快速地做出判断；而时序策略则会综合考察该会话中代理此前已执行的行动，再决定是否允许下一次调用。该功能可以要求前一次调用返回的值与后续调用输入的值保持一致，也可以汇总会话内的累计支出——即便单笔金额低于限额，一旦总预算超支即可阻止下一次购买。此外，还可以强制要求步骤按既定顺序执行，或对关键操作要求提供人工审批记录。该功能由新发布的开源策略语言Dogwood提供支撑。
网关速率限制功能同步上线
Bedrock AgentCore的网关是一个全托管的无服务器入口，所有流向MCP服务器、LLM、代理及知识库的AI流量都要经过这里。AWS表示，正是考虑到所有调用都会经过这一节点，才选择在网关层设置与代理具体行为方式无关的统一限额。此次新增的速率限制（rate limiting）功能，正是从流量频率维度落实这一原则的具体举措，能够在诸如token耗尽型重试等情况下维持成本上限。
功能对比
| 分类 | 适用范围 | 核心作用 |
|---|---|---|
| 现有策略 | 单个动作 | 对每个请求独立判断 |
| 时序策略（Dogwood） | 整个会话序列 | 验证累计支出、执行顺序、前后调用值一致性 |
| 网关速率限制 | 网关全部流量 | 通过限制请求频率维持成本上限 |
METAL LAB此前关于AI代理相关报道中也多次指出，随着AI代理自主性增强，其行为控制问题反复出现。
尚待解决的课题
AWS表示，一旦建立起值得信赖的护栏机制，批准新代理的流程将不再是逐一协商，而是转变为在平台层面统一处理的标准流程。不过，此次发布并未公开Dogwood的具体语法、时序策略的详细适用范围，以及速率限制的具体数值等信息，实际应用效果仍需进一步观察确认。
