Advisor Model

Advisor Model 是这样一种机制:正在工作的智能体遇到难以判断的时刻时,会临时调用一个能力更强的模型,只听取建议,然后回到自己的工作中继续执行。这就像公司里新员工遇到棘手的事情时,顺口问一下旁边的资深同事,得到建议后再回去做自己的工作。资深同事并不是代替他把事情做完,而只是提供判断所需的建议,然后就退出。

这种方式的好处是能同时兼顾成本和性能。不需要把所有任务从头到尾都交给昂贵且强大的模型来处理,平时可以让便宜的模型来执行任务,只在判断困难的节点临时召唤更强大的模型,这样既能降低整体执行成本,又能保证难点判断的质量。

文章提到"此前已经加入了会话预算上限和 Advisor Model 功能",说明这是在上一次更新中与预算耗尽后自动停止的功能一起出现的。容易被误解的一点是,Advisor Model 并不是接手任务并代为处理的功能。执行任务的主体仍然是原来的智能体,顾问模型只是在判断卡住的那一刻提供意见。