Test-time Learning
模型在完全训练完成后,实际被使用的那一刻,仅凭眼前看到的一个示例就当场适应的方式。
简单来说
测试时学习指的是人工智能模型在完成训练之后,在实际被使用的那一刻,看到一个新示例就当场适应的方式。
打个比方。通常的训练就像厨师在烹饪学校经过数年训练。训练结束后,厨艺水平就固定下来了,想学新菜就得再回学校。而测试时学习更像是已经站在厨房里的厨师,看到旁边的人示范做了一次新菜,当场就能模仿着做出类似的菜。不需要另外的练习时间,仅凭眼前的一次示范就立刻应用。
这种方式特别之处在于计算成本。通常想让模型适应新情况,需要经过大量反复计算,一点点调整内部数值,而测试时学习几乎跳过了这个过程,或者只经过极少的调整。在一个机器人案例中,机器人仅凭把刚看到的一个示范放入短期记忆空间就完成了任务,即便经过少量额外学习,发生变化的内部数值也不到全部的0.15%。也就是说,这并不是在学习全新的东西,而更接近于把已有的知识按情况重新调配。
在报道中是这样出现的
文章中,机器人初创公司Generalist AI用"极少数据下的测试时学习"来形容自家模型的能力。这指的是把一段示范视频放入机器人的短期记忆空间后,机器人无需另外训练就立刻模仿了动作。
有一点容易被误解:测试时学习并不意味着模型在那一刻凭空创造出全新的能力。它更接近于在预先积累的庞大知识基础上,针对眼前的示例把这些知识瞬间重新调配。因此,预训练不足的模型即便给出再好的示例,也很难出现这种当场适应的现象。
亲手试一试
试着让聊天机器人做做看。
- 输入类似这样的内容:"下面是我想要的答案格式示例:[一个示例]。现在请用同样的格式回答[新问题]"。
- 确认模型是否无需另外重新训练,仅凭对话框中放入的这一个示例就立刻照着格式回答。
- 试着把示例增加到两个、三个,比较答案的准确度会如何变化。
这和机器人看一次示范视频就立刻模仿的原理相同:模型仅凭放入对话框(上下文)中的信息,就能当场适应。