可信访问通道
Trusted Access Pathways
一种访问控制方式,将可能存在风险的AI功能默认锁定,但对经过身份或资质验证的专家或特定用户群体例外开放。
简单来说
可信访问通道指的是:对可能有风险的AI功能,默认不向所有人开放,但对身份或资质经过确认的人则例外放行。这有点像药店不凭处方不卖强效药物,但只要有医生开的处方就会出售一样。
当AI在生物学、安全等敏感领域能给出专家级答案时,公司就会陷入两难。对所有人一视同仁地限制,安全性有保障,但医生、研究者等有正当需求的人也拿不到所需帮助。反之,如果对所有人开放,滥用风险就会上升。可信访问通道正是寻找这种折中方案的方法:只对经过确认的用户群体放宽限制,其他人仍受限。
这种区分很难完全自动化。公司通常会综合请求内容、使用场景,有时还加上用户身份验证流程,来判断向谁开放、开放到什么程度。
在报道中是这样出现的
文章中并未直接使用这个说法,但Claude Fable 5改进生物安全分类器后的做法正是这种访问控制的实例:一方面增加对医疗专业人员临床工作的支持,另一方面继续拦截病毒学、毒理学等专业研究类查询。一个常见的误解是,认为'限制放宽'意味着对所有用户一视同仁地放宽,但实际上不同用户类型或使用场景仍会受到不同程度的限制。
