Agentic Application
AI不只是回答问题,而是自主规划目标并执行多个步骤来完成任务的程序或服务
简单来说
Agentic Application(智能体应用)是指AI不只是给出问题的答案,而是接到一个目标后,自己规划并执行多个步骤去实现它的程序。
可以理解为:搜索框只提供信息,而雇佣一个助理并对他说「这件事帮我处理一下」则完全不同。搜索给出答案就结束了,但助理会去查机票、比较价格,如果需要还会重新查找,最后完成预订。Agentic Application就是这样,AI在过程中不断自主做出判断,串联多个动作,直到达成目标为止。
这种方式很方便,但也意味着AI自主判断和行动的范围变得更大。因此,各公司会在这类程序的开发和测试阶段就专门建立监控机制,检查是否出现异常或危险行为。
在报道中是这样出现的
文章中提到,公司「在Astra的所有Agentic Application——包括训练和评估阶段——中引入了针对风险行为和偏离对齐的通用监控」。这里的「Agentic Application」不仅指已经上线的成品服务,还包括在构建和测试模型过程中,以自主规划、自主行动方式运行的所有程序。关键在于,这个概念同样适用于尚未发布的开发和测试阶段。
亲手试一试
与只让聊天机器人回答信息相比,试着交给它一个多步骤任务,就能感受到差异。例如可以这样提问:
请帮我规划一个符合以下条件的4天3晚国内旅行行程。把每天的路线和预计费用整理成表格,最后再计算一下总预算。
比较一下只是罗列信息的回答,和自己制定计划、完成中间计算的回答之间的差异,就能大致体会到什么是「智能体式」的处理方式。
