Temporal Policy
一种策略方式,不只看AI智能体单次行为,而是综合考察整个会话中的行为顺序和累计情况,来判断是否允许下一步行动。
简单来说
时序策略(Temporal Policy)是一种规则:让AI智能体记住自己在整个会话中已经做过的所有事情,再根据这个完整的行为流程来判断是否允许它执行下一步操作。这就像商场保安不能只看顾客某一个瞬间的动作来判断是否可疑,而要看这位顾客从进店开始到现在为止的整个行动轨迹,才能察觉出异常。
以往的做法是逐次、孤立地判断每一个请求。查询账户余额没问题,转账没问题,在审批额度以内付款也没问题——所以每次都能顺利通过。问题在于,这些单独看都正常的行为一旦连在一起,就可能形成危险的模式:比如刚查完账户余额马上就把钱转到别的账户,或者为了绕开限额而把一笔款项拆成多笔、总额却超出了上限。时序策略正是通过检查之前的调用做了什么、目前累计花费了多少、行动顺序是否合理,来发现这类模式。
举例来说,假如有一个智能体因为请求失败而整夜不断重试,每次重试都在消耗成本,单看每一次尝试或许都毫无问题,但能够观察累积行为流程的时序策略就可以识别并阻止这种情况。
在报道中是这样出现的
文章指出,"时序策略会综合考察智能体在该会话中已经执行过的行为,再决定是否允许下一次调用。"容易被误解的一点是,这并非一种通用的AI安全过滤机制,而是Amazon Bedrock AgentCore新增的一项具体功能。该功能由开源策略语言Dogwood提供支持。