程序性锚定
procedural anchoring
让AI智能体遵循固定的步骤顺序和检查流程,而非提供新知识,从而减少失误的效果
简单来说
程序性锚定指的是这样一种现象:AI智能体表现变好,并不是因为它学到了原本不知道的新信息,而是因为它开始遵循固定的顺序和检查方法。
可以想想烹饪食谱。食谱通常不会告诉你关于食材的新知识,而是给出一个顺序:「先把水烧开,再放食材,5分钟后翻面」。只要照着这个顺序做,新手做菜时的失误就会明显减少,这就是程序性锚定。给智能体配上作业说明书后表现变好,原因也类似:只要说明工具该按什么顺序使用、中途该检查什么,就能减少配置错误或输出格式弄错之类的失误。
不过这种锚定也有副作用。如果遇到完全不同的问题,却还硬套之前用过的流程,反而会拖累表现。让智能体无条件遵循既定流程的这种力量,在情况不匹配时反而会侵蚀灵活性。
在报道中是这样出现的
文章指出,「配备技能的智能体表现更好的情况中,65.7%要归功于程序性锚定」。相比之下,技能因为直接提供了智能体原本不知道的信息而带来帮助的情况只占4.5%。人们通常容易误以为技能好用是因为给智能体注入了新知识,但这项研究的核心发现是:规定顺序和检查方法所带来的效果要大得多。
亲手试一试
可以用两种不同的提示词执行同一项任务来做比较。
- 只给出目标,比如「帮我整理这个文件」,然后直接执行。
- 这次附加上顺序:「帮我整理这个文件。顺序:1) 先浏览整体结构 2) 标记重复项 3) 整理完后再检查一次结果。」
比较两次结果,就能看出智能体之前的失误究竟是因为不知道新信息,还是仅仅因为缺少一套流程。