双重用途风险

双重用途风险指的是某种知识或工具既能用于好的目的,也能用于坏的目的。这就像厨房里的刀既能用来做菜,也能变成凶器一样。你没办法把刀本身消灭掉,所以只能通过控制销售方式或使用场景来降低风险。

AI 模型也是同样的道理。开发新药所需的生物学知识,同样也能被用来制造危险的病原体。因此 AI 公司一方面向正规研究者敞开大门,另一方面又通过屏蔽特定问题或请求来划定界限。如果对所有人都完全开放,危险人物也会趁机混入;如果全部封锁,真正需要的研究者反而用不了——这就是两难之处。

所以实际做法通常不是直接降低模型本身的性能,而是只过滤特定领域中的特定问题。比如一般性的生物学问题会正常回答,但可能导向武器开发的专业且具体的提问则会被拦截。

文章中提到,Anthropic 向科学家免费开放 Claude 的同时也说明,“最新模型 Claude for Life Sciences(Fable)出于双重用途风险,仍会持续屏蔽专业的生物学和新药研发相关查询。”容易被误解的一点是,这并不是因为不信任某个具体用户,而是因为问题内容本身可能引向危险知识,所以设置了这道防线。因此 Anthropic 在扩大访问权限的同时,也在准备一个单独的项目,让经过验证的专家才能使用更高级的模型。