负责任的扩展政策

负责任的扩展政策(Responsible Scaling Policy)是AI公司自己定下的一套内部规则,承诺随着自家模型能力不断增强,安全防护措施也要同步加强。

这有点像汽车厂商承诺:每次提升新车的最高时速,都会同步升级刹车和安全气囊的性能。就像只提速却不提升刹车会很危险一样,这项政策的核心理念是,AI模型越聪明,过滤危险知识的防护装置也必须随之变得更强大。

根据这项政策,Anthropic将模型的风险等级划分为若干阶段,一旦超过特定标准,就会自动启用更强的安全防护措施。公司还会定期发布报告,公开这些防护措施是否真正有效运作,让外界也能加以核实。

在报道中常会看到这样的表述:"Anthropic通过依据负责任的扩展政策(Responsible Scaling Policy)定期发布的风险报告,公开了此次事件"。容易被误解的一点是,这并非政府制定的法律法规,而是公司自愿设立并承诺遵守的内部政策。因此,就像过滤器曾停用长达11个月这样的情况所显示的那样,仅仅制定了政策,并不能完全保证其在实际运作中被切实执行。