自我搭建脚手架

自我搭建脚手架(self-scaffolding)是指AI模型在解决问题之前,先自己搭建好所需的脚手架,再在这个脚手架上解题。就像建筑工人在盖楼之前先搭好脚手架一样,模型也会自行决定该用什么工具、按什么顺序才能解开问题,然后才开始作业。以前是人类事先编好操作手册和评分标准交给模型,而在这种方式下,模型自己制作那份操作手册。

再进一步,模型不只是搭建脚手架,还会自己出题、生成解题过程,并把这些内容作为下一轮学习材料,形成一个循环结构。相当于模型自己找出自身实力的薄弱环节,并不断生成与之对应的练习题。这样一来,人类不必再逐一手工编写题库,但模型自我评估和自我改进的准确程度,也就直接决定了最终的表现。

这个概念受到关注,是因为它让一种更少依赖人力的自我改进循环成为可能。相比依赖人类预先制作的题库和评分工具的传统训练方式,人们期待模型自行找出并填补自身空白的方式,能够更快、更广泛地提升实力。

报道中将其描述为"模型自行搭建解题所需的工具和流程,即脚手架(scaffold),再在此基础上解题的方式"。这一概念由Ornith开发团队在前作Ornith-1.0中首次提出,后续的Ornith-1.5在此基础上更进一步,发展为模型自行生成待解任务本身以及评分标准的循环结构。需要注意的是,自我搭建脚手架并非特定模型的名称,而是指一种训练与推理方式。