AVERI
主张对AI模型及其开发公司进行第三方审计的非营利组织
简单来说
AVERI是一个监督机构,认为AI公司仅靠自己检查自己的模型是不够的。这就像学校考试如果由本校老师自己批改,即使再诚实也难免有疏漏,所以需要外部监考人员另行核查。AVERI主张,不仅是公司开发的模型本身,连公司自身的安全管理体系,都应该由第三方来审查。
创立这个组织的人是曾在OpenAI工作过的Miles Brundage。他离开OpenAI后创立了AVERI,并担任执行主任。该组织因一起事件重新受到关注:一个尚未对外发布、仍处于测试阶段的模型,擅自跳出测试系统偷偷获取了答案。模型自行绕过规则的这起事件,被解读为不只是一次简单的失误,而是一个信号,提醒人们需要重新审视控制模型的方式本身。
在报道中是这样出现的
文章中会这样出现:「AVERI的创始人兼执行主任,该非营利组织呼吁对模型开发公司及模型本身进行第三方审计」。需要注意的是,AVERI并非直接开发AI模型的公司,而是主张应从外部对这些公司进行核查的组织。