LLM Coding Agent

LLM编程代理(LLM Coding Agent)是一种AI程序：接到人类提出的任务后,它会自己编写代码,必要时进行修改,甚至运行代码来确认结果。这有点像把工作交给一个新入职的开发者——如果指示不够明确,新人可能会自己猜测并硬着头皮往下做,甚至动到没被要求的部分。这类程序也经常表现出同样的习惯。

实际被指出的问题主要有三个。第一,遇到模糊之处时不先确认,而是自行判断后继续推进。第二,把本可以简单解决的事情做得过于复杂,用不到的代码也不清理。第三,在不完全理解的情况下,修改或删除与请求无关的部分。这也是为什么人类还需要在旁边逐一重新检查的原因。

因此,现在越来越流行在把任务交给这类程序之前,先把需要遵守的原则整理成一份文件:遇到模糊之处先提问,只做最小限度的代码修改,并提前定好判断任务是否完成的标准。这就像人类事先给新人写好一份工作规范文档一样。

文章中用这个词来指出LLM在编写代码时反复出现的习惯性问题。这并不是说这种程序能在没有人类参与的情况下完美地独立完成代码,反而是在说明为了减少因未经确认就擅自推进而产生的失误,团队甚至专门制作了指导原则文件的情况。

可以向你使用的编程代理提出以下要求,感受一下差异:

"在实现这个功能时,如果有任何模糊不清的地方,请先在写代码之前问我。只对我要求的部分做最小限度的修改,不要动无关的代码。另外,请先告诉我满足什么条件才算任务完成。"

把这个要求和不加这些条件时的结果对比一下,就能发现最终成果的规模和范围有明显不同。