强化学习
Reinforcement Learning
通过试错来训练的方法:做得好就奖励,做得差就惩罚。AlphaGo背后的核心方法。
简单来说
不是直接给出标准答案,而是让系统去尝试,做得好就奖励、做得差就惩罚的训练方式。原理和训练小狗一样——喊「坐下」,坐下了就给零食,重复几百万次。
AlphaGo正是靠这种方式征服了围棋,如今它也成了训练语言模型的核心手段。让模型解数学题,答对了就给奖励,以此培养推理能力。「通过强化学习提升了推理性能」已经成了近期各大模型发布时的常见说法。
Reinforcement Learning
通过试错来训练的方法:做得好就奖励,做得差就惩罚。AlphaGo背后的核心方法。
不是直接给出标准答案,而是让系统去尝试,做得好就奖励、做得差就惩罚的训练方式。原理和训练小狗一样——喊「坐下」,坐下了就给零食,重复几百万次。
AlphaGo正是靠这种方式征服了围棋,如今它也成了训练语言模型的核心手段。让模型解数学题,答对了就给奖励,以此培养推理能力。「通过强化学习提升了推理性能」已经成了近期各大模型发布时的常见说法。