Turbo LoRA

Turbo LoRA是什么——与其把一整件衣服重新做一遍,不如只在袖子部分缝上一小块补强布。AI模型也是同样的道理:原本庞大的计算集合(权重)保持不变,只是在其上乘加两个远小得多的小模块来改变输出结果。因为只需要重新制作这些小模块,所需的时间和成本都大幅降低。

视频生成模型通常从模糊的噪点画面开始,经过多次打磨才生成完整的视频。每经过一轮这个过程都要花费时间,而Turbo LoRA在每次收到生成视频的请求时,会挑选并附加上事先准备好的小模块,让原本需要多次反复打磨的过程,只用几次计算就能完成。

这种方式的优点是可以针对每次请求换上不同的模块,从而灵活应对各种情况。不过,由于每次都要经历附加和拆卸模块的过程,与一开始就把所有内容合并成固定整体的方式相比,速度上可能会存在一些差异。

文章中,Turbo LoRA是让MiniMax的视频生成模型H3在8.7秒内生成10.1秒视频的两种加速方法之一。Turbo LoRA的做法是保持基础权重不变,每次请求时附加一个小模块;而作为对比的FastH3预览版则是提前把权重整合成一套固定权重。这里容易产生的误解是,因为名字里带有LoRA,很容易让人只联想到用于重新训练模型的技术,但在这篇文章中,它其实是被用作让已训练好的模型运行得更快的加速手段。