迁移学习
Transfer Learning
把在一个领域学到的能力搬到另一个领域使用的学习方法,是基础模型存在的理由。
简单来说
迁移学习(Transfer Learning)是把在一个领域学到的能力,搬到另一个领域去使用的方法。打个比方,学过钢琴的人学电子琴会更快——因为对琴键的手感这种基础能力可以迁移过去。
AI 也是同样的道理。通过阅读海量互联网文本学会语言能力的大模型(基础模型),只需在医疗、法律、金融等特定领域上再做少量训练,就能用远少于从零开始训练所需的数据和成本,取得不错的效果。
现在常听到的「微调(Fine-tuning)」,大多其实就是迁移学习的实践。新闻里提到「在 GPT 基础上打造了医疗专用模型」这类说法时,指的正是把通用模型的能力迁移过去。多亏了迁移学习,企业不必从零开始打造自己的 AI,而是可以在现有模型之上叠加自己的数据。