AWS,发布验证智能体行为历史的时间性策略功能

AWS在其ML博客中宣布,已为Amazon Bedrock AgentCore新增"时间性策略(temporal policies)"功能。此前的策略采用无状态(stateless)方式,对每个请求单独评估;而新功能会同时考量智能体的会话历史,即此前工具调用的先后顺序,以此判断当前请求是否应被批准。

为什么需要这项功能

博客解释称,由于AI智能体会在运行时自行决定调用哪些工具、使用何种参数、按何种顺序执行,即便单次调用本身看起来是安全的,一旦结合此前的上下文也可能变得危险。文中列举的例子包括:智能体错误地将查询到的账户号码替换成其他数值后转账;累计亏损已超过限额,却仍继续执行重复交易;在数秒之内对同一笔保险理赔既批准又拒绝。这类情况仅靠逐次调用的检查是无法被拦截的。

具体变化是什么

时间性策略在AgentCore Gateway边界执行,位于智能体自身代码之外,因此无论是提示词操纵还是代码漏洞都无法绕过该机制。博客介绍的应用场景包括:仅允许与此前工具调用结果完全一致的参数通过、以防止数值被篡改的"输出完整性强制执行";用于确保遵循特定流程的"工具调用顺序强制执行";在执行敏感操作前要求留有人工明确批准记录的功能;以及仅允许使用在规定时间内查询到的最新数据的"数据新鲜度强制执行"。AWS还补充说,对于无需人工干预即可自主运行的智能体,该功能也可用于自动进一步收紧其权限范围。