Catastrophic Forgetting
AI模型在学习新内容的过程中，突然丢失之前所掌握知识的现象
简单来说
灾难性遗忘是指AI模型在学习新内容的过程中，突然忘记了之前学过的内容。
可以想象一块白板。要写新字，通常得先用橡皮擦掉之前写的字。人类学习新东西时，旧知识大体上还能保留下来，但许多学习模型并非如此。用新数据重新训练时，模型内部大量的连接数值会同时发生变化，可能带来一种副作用：模型突然丧失了原本擅长的能力。
正因为这个问题，如今大多数语言模型在训练结束后就会被固定下来，直接投入服务使用。如果让模型持续学习，每次加入新知识都有可能抹去已有知识，所以干脆选择在训练完成的那一刻把内部数值锁定。像Richard Sutton这样的研究者则主张，不应采用这种方式，而应该找到让模型在持续学习的同时不丢失旧知识的方法。
在报道中是这样出现的
文章中，Richard Sutton在谈到持续学习时提到：“所有学习都应该是持续的，同时又不能发生灾难性遗忘。”这里的“遗忘”并不是说模型出了故障，而是指模型在学习新事物的过程中，原有能力整体消失的副作用。