模型崩溃
model collapse
AI生成的文字或图像被重新用作训练数据,导致产出质量随着代次推进不断变差的现象
简单来说
模型崩溃是指AI靠吃自己生成的产出成长,结果反而变得越来越粗劣的现象。
可以想象反复复印文件:把一份文件复印,再把复印件继续复印下去。前几次看起来差别不大,但复印次数一多,原本的细微细节就会一点点被抹去、变得模糊。AI训练也是类似的道理。AI学习人类写的文字和画的图,产出自己的结果,这些结果堆积在网络上,等下一代AI又拿它们当学习材料时,AI学到的就不再是丰富多样的人类原创,而是反复学习AI自身那种平均化、扁平化的模式。
要让这种担忧变成现实,前提是必须持续有真正由人类撰写的新文章和创作的新图像供应。可是如果作家和创作者因为得不到报酬而放弃创作,这个供应本身就会枯竭。用文章里的说法,这就是供AI学习的人类文字枯竭的“AI饥荒”。模型崩溃指的就是由此引发的质量下滑情景。
在报道中是这样出现的
文章写道:“打赢诉讼的作家向AI公司提出的,是训练数据被AI产出污染、质量随之崩溃的模型崩溃(model collapse)情景。”
有一点容易被误解:模型崩溃并不是说AI现在的回答已经出了问题。它指的是当人类创作的原创内容持续减少时,未来可能出现的长期风险,因此在这篇文章里,它也不是版权诉讼获胜的结果,而是作为对此后局面的一种警告出现的。