self-modifiable harness state

自我可修改的执行框架状态(self-modifiable harness state)是指AI智能体在执行任务的过程中,能够自行修改围绕在其周围的运行环境本身的一种能力。所谓“harness”,大致相当于一份操作手册,规定了智能体使用工具的顺序、日志的管理方式、以及何时应该停止等内容;通常智能体只会按照人类预先设定好的这份手册原样执行。而具备这一能力后,智能体可以在任务进行途中亲自修改这份手册,并据此改变之后的行为方式。

打个比方,就像一位厨师按照食谱做菜,做到中途觉得情况有变,便亲手修改食谱本身,之后就按照修改过的食谱继续做菜。尤其是在持续数小时的长时间任务中,一开始设定好的方式可能中途就不再适用,这一设计正是为了让智能体自行调整,而不必每次都靠人来介入修正。

不过,智能体究竟通过什么具体流程来修改自己的运行环境,以及如果修改出错时是否有相应的防护机制,目前还没有公开具体信息。

在Prime Intellect公开的智能体执行框架“Prime Agent”的四大设计要素中,“自我可修改的执行框架状态(self-modifiable harness state)”作为其中之一被提出。该公司将其与“自我改进型(self-improving)”这一说法一并提出,但除了一篇发布公告之外,目前并无其他资料确认其实际运作方式或安全机制。仅看“自我改进型”这一说法容易让人误以为是模型本身变得更聪明,但需要区分的是,这里发生变化的并非模型本身,而是围绕模型的执行流程(即harness)。