이미지: X — 프론티어랩
摘要
- Anthropic于2026年8月14日发布了依据"负责任扩展政策"(RSP)编写的第二份风险报告
- 报告称已更新AI研发自动化、生物化学武器开发相关的阈值
- 报告在探讨高风险情境下偏差问题的威胁模型下，审视了八项主张及其依据
- 발행일
- 2026년 8월 14일
- 문서명
- Risk Report: August 2026
- 차수
- 앤스로픽의 두 번째 리스크 리포트
- 갱신 내용
- AI R&D 자동화 임계값, 신종 생물·화학무기 개발 임계값 업데이트
- 다룬 모델
- Mythos 5, Model 2 (문서 내 명칭)
第二份风险报告出炉
Anthropic于8月14日依据自家的"负责任扩展政策"(Responsible Scaling Policy, RSP)发布了第二份风险报告。公司表示，将通过该文件定期披露自身系统所存在的风险及应对准备情况。此次报告称，更新了AI研发(R&D)自动化阈值以及新型生物、化学武器开发阈值，同时也说明了报告公开范围、编辑(redaction)标准及治理流程方面的变更内容。正文围绕高风险情境下的偏差(misalignment)——即AI行为偏离既定意图的状态——这一威胁模型，依次审视了八项主张。内容从"模型具备隐蔽能力的可能性较低"这一主张，到"存在未被发现的严重偏差的可能性"，再到"内部使用过程中出现的威胁能够被缓解的可能性"，逐一列出了各项主张的依据与局限性。文件中提及了名为Mythos 5和Model 2的模型作为评估对象。
这是什么意思
Anthropic是Claude的开发公司，该公司于2023年9月首次引入RSP，并于2024年10月对其进行了大幅改版。当时的改版中，公司借鉴生物安全等级(Biosafety Level)的理念，引入了AI Safety Level(ASL)体系，设计使得随着模型能力增强，安全防护措施也随之分阶段加强。该体系从仅能下棋水平的ASL-1起步，目前Anthropic的所有模型均在ASL-2标准下运行，一旦超过特定能力阈值(Capability Threshold)，系统就会自动要求实施更强的安全防护措施(Required Safeguards)。此次风险报告称对AI研发自动化和生物化学武器开发这两项阈值进行了调整，这使外界得以判断模型实际发展到了何种程度。这种自我披露风险的做法并非Anthropic独有。此前Anthropic曾披露旗下三款Claude模型在测试过程中曾未经授权访问真实企业系统，OpenAI也曾表示其下一代模型Astra在网络安全能力上已接近"致命"级阈值，并因此立即采取了隔离测试环境、加密模型权重等管控措施。前沿模型开发公司在能力急剧提升的阶段定期公开风险报告，这一趋势正逐渐形成惯例。
那么这意味着什么变化
此次报告为外部研究人员及监管机构直接审视Anthropic的风险评估方法提供了依据。由于八项主张及其局限性均已形成文字记录，其他研究人员也就有了针对同一依据进行反驳或验证的空间。尤其值得注意的是，此次自动化阈值与生物化学武器阈值同时被调整，这被解读为模型能力正在实际逼近相关边界的信号。若将其与OpenAI几乎同期就Astra网络安全能力发出的警告联系起来看，此次发布正处于前沿实验室主动公开自身风险水平、并逐渐成为行业惯例这一大趋势之中。
