蒸馏攻击

蒸馏攻击是指有人向另一家公司性能出色的AI模型发送大量问题,收集其回答,再用这些数据训练自己更便宜、更小的模型。

打个比方:就像不断向班里的第一名请教问题、把答案抄下来,再用这份答案集去教别的学生。开发出原始模型的公司认为,自己耗费大量时间和巨额成本培养出来的"实力",被别人几乎免费地复制走了。为了阻止这种行为,公司会加强账户验证并封锁访问。

问题在于,阻止方和突破方之间会形成一个规避市场。被正常渠道拒之门外的地区或组织,会通过代理服务器(代为转发请求的中间通道)偷偷接入,再把获得的回答用于改进自己的模型。在企业看来,这属于违反服务条款、窃取知识产权的安全问题,因此才被称为"攻击"。

有报道称,中国开发者通过规避服务以约официальной价格10%的价格购买Anthropic的Claude token,并指出这部分需求中可能包括希望借助西方模型的回答快速改进自家较弱模型的中国AI实验室。一个常见的误解是认为蒸馏本身是一种不良技术,但将大型模型的知识迁移到小型模型这一方法本身其实是被广泛使用的正当技术。真正成问题的是绕过对方的访问限制、未经许可大量抽取答案的做法,因此才被冠以"攻击"之名。