jailbreak tuning
一种通过重新训练模型来彻底清除其安全防护机制的越狱方法,而非靠巧妙提问蒙骗模型
简单来说
越狱调优(jailbreak tuning)是指重新训练AI模型,把原本内置的安全防护机制整个清除掉的方法。这不是靠巧妙的话术把一扇上锁的门哄开,而更像是直接跑到制锁工厂,把造这把锁的方法本身偷走。
通常提到「越狱」,人们会想到用巧妙的提问或文字游戏骗过AI一次,从而套出危险的回答。越狱调优则不同。如果一个模型的权重文件(相当于它的「大脑文件」)可以被下载,那么就可以对它重新训练,把「遇到危险问题就拒绝回答」这一训练结果本身抹去。一旦成功,之后就不需要每次都靠蒙骗——模型会一直乖乖给出答案。
这种方式的危险之处在于成本。相比从零打造一个新模型,剥除安全防护所需的数据和时间要少得多,而一旦剥除完成,这个模型就会以文件形式原样扩散出去。有人指出,无论公司在发布前把安全测试做得多么严密,一旦权重文件公开,这些测试就无法保证之后不会被重新训练绕过。
在报道中是这样出现的
文章介绍,由滑铁卢大学和FAR.AI牵头的研究团队针对21个广泛使用的开放权重模型验证了这一漏洞,发现仅需一次微调就能瓦解其安全防护机制。人们常以为越狱只能靠巧妙的提示词实现,但对于权重可下载的模型来说,重新训练模型本身反而是一种更根本、更持久的绕过方式。