自我进化
self-evolution
指AI系统在没有人类介入的情况下,自行改进自身性能或运作方式的过程。
简单来说
自我进化是指AI系统不经过人手,自己修正、改进自身的性能或运作方式的过程。
打个比方,这就像学生考完试后自己整理错题本。一开始只是订正错的答案,但慢慢地会进一步改变整个学习方法,最后甚至自己重新定义"什么才算做得好"。改答案这个层面,人还比较容易核实;但一旦开始动手修改判断标准本身,人就很难验证结果是否真的变好了。
所以现在的研究者会区分这种变化"发生的深度"有多深——是只稍微调整了眼前的任务,还是连今后的判断标准本身都被改变了,这决定了可信程度的高低。这个概念之所以一直被反复讨论,也是因为有人担心:一旦AI越过自我改进这个临界点,其发展速度可能会超出人类的控制范围。
在报道中是这样出现的
在报道中,常以"递归式自我改进(RSI)"或"自我进化智能体(self-evolving agent)"等说法出现。例如"布林正在把资源推向递归式自我改进"这样的句子。人们提到自我进化时,容易联想到AI突然跃升为超级智能的戏剧性场面,但实际讨论要具体得多。从重写提示词、整理记忆这类浅层调整,到改变判断标准本身的深层变化,都被划分为不同阶段,处于哪个阶段所需要的证据也各不相同。