temporal policies
不只看AI智能体当下要做的动作,还要结合它之前的行动记录,来决定是否放行的规则
简单来说
时间性策略指的是,AI智能体不是只看它现在要做的这一个动作,而是把它之前做过什么也一起考虑进去,再决定要不要放行的规则。
打个比方。有一种保安只看来人门口出示的证件就放行。另一种保安会记住这个人几分钟前在里面做了什么,如果现在要做的事和之前的行为前后矛盾,就会拦下来。时间性策略更接近后一种保安。AI智能体会自主判断,按顺序执行多个步骤,单独看每一步可能都没问题,但把它和前面的步骤连起来看,就会发现不对劲的地方。比如,智能体刚才查询的账号和现在实际要转账的账号不一致,或者刚拒绝过的一份保险理赔申请,几秒钟后又被批准了。
这类策略不是写在驱动智能体运行的程序代码里面,而是在代码之外、请求真正要经过的关口上运作。所以就算智能体的代码本身有漏洞,或者有人用巧妙的指令想欺骗智能体,这道关口本身依然很难被绕过。
在报道中是这样出现的
文章提到,AWS为Amazon Bedrock AgentCore新增了时间性策略。以往的策略是逐一单独检查每个请求,而新功能的不同之处在于,它还会连同之前的工具调用顺序一起查看。一个常见的误解是,以为这是嵌入在智能体代码里的安全装置,但实际上它运作于智能体代码之外的关口,因此无论代码是否存在漏洞或是否遭到操纵尝试,都能被过滤出来。