Enterprise Frontier Safeguards
AI公司在向网络安全、生命科学等高风险领域开放模型时,只允许身份和用途经过验证的企业与研究者接入,并为其配备强化安全措施的做法
简单来说
Enterprise Frontier Safeguards指的是,AI公司在向网络安全或生命科学这类一旦被滥用就会造成严重危害的领域开放模型时,不会让任何人立刻就能使用,而是只允许身份和使用目的都经过验证的企业和研究者接入,并为其配备更强化的安全措施。这有点像同一栋楼里,大堂谁都能自由进出,但存放危险物品的实验室区域则只允许核验过通行证的人进入。
Anthropic推出的Claude Fable 5.1和Claude Mythos 5.1就是这种做法的例子。这两个模型其实基于同一个底层模型,但Fable 5.1面向编程和知识工作场景公开发布,任何人都可以使用;而Mythos 5.1为支持网络安全、生命科学类任务,叠加了一套更严密的独立安全措施,只提供给通过了可信接入项目审核的机构使用。由于安全措施的严密程度不同,即便是同样的能力,在基准测试中也可能得出不同的分数。
这类做法通常还包括防止有人偷偷提取模型的推理过程、借此复制出没有安全措施的版本的防护手段。也就是说,这套安全措施并不是用来降低性能的装置,而是一种为防止危险滥用、精细划分谁能接入到什么程度的制度。
在报道中是这样出现的
文章中常以"Claude Mythos 5.1仅面向通过可信接入项目审核的企业和研究者开放"这样的表述出现。一个常见的误解是,安全措施越强,模型性能就越差;但实际情况是,安全措施在特定任务上介入后可能造成分数差异,随着措施被不断调整完善,这种差距会逐渐缩小,这与模型本身的性能是相对独立的两件事。