context as a variable
一种设计方式,让AI智能体把积累的对话与任务记录不当作固定的窗口,而是当作可以像代码一样读取和改写的值来处理。
简单来说
变量化上下文(context as a variable)是一种设计方式,让AI智能体把迄今为止积累的对话和任务记录,不当作固定不变的存储空间,而是当作程序可以随意读取、修改、删除的值来处理。
打个比方,普通的AI更像是一本只能不断往后写的记事本。对话越长,记事本就越厚,每次都要从头读到尾,时间和成本也随之增加。变量化上下文则是把这本记事本当作一个抽屉来对待——需要时可以摘要、删掉不必要的部分,或者整体替换。
据称这样可以减少长时间运行的自主智能体因记录无限累积而变得又慢又贵的问题。不过,这个概念是Prime Intellect在介绍自家智能体运行环境Prime Agent时,作为其设计要素之一提出的,至于具体依据什么标准编辑上下文、实际能提升多少效率,目前尚未公开具体细节。
在报道中是这样出现的
文章中将变量化上下文(context as a variable)列为Prime Agent四项设计要素之一。这容易和单纯扩大上下文窗口本身大小的技术混淆,但它并不是把窗口做大,而更接近于主动编辑和重组窗口内的内容。