Continual Backprop
一种让AI在训练结束后仍能持续学习、同时不遗忘旧知识的训练方法。
简单来说
Continual Backprop是一种训练技术,能让AI模型在完成初始训练之后,依然可以不断学习新东西,同时确保不会忘记之前学过的内容。
可以用人脑来类比。人在学习新知识时,一部分脑细胞可能会变得像是"用尽"了一样,难以再接受新的模式。Continual Backprop的做法类似:它会逐步找出网络中变得僵化、作用变小的部分,将其重置回初始状态,让这部分重新学习;而其余部分则保持不变,避免之前学到的知识被整体抹去。
目前大多数AI模型在训练结束后就固定不变了,即使在现实世界中不断积累新经验,模型本身也不会随之改变。被视为强化学习奠基人之一的Richard Sutton指出了这一问题,他认为如果没有真正的持续学习,智能体就无法凭自身去学习和修正对世界的认知。Continual Backprop正是为实现这种持续学习、同时避免"灾难性遗忘"(旧知识被整体丢失)问题所做的一种尝试。
在报道中是这样出现的
在报道中,这项技术被介绍为Richard Sutton研究团队发表于《自然》(Nature)期刊的方法。需要注意的是,它并非某个具体产品或服务的名称,而是一个研究术语,指的是让模型在训练结束后依然能持续学习的方法。