Confidential Space
谷歌云的一种机密计算环境,能让互不信任的两方只交换计算结果,而不必向对方公开各自的机密数据。
简单来说
Confidential Space 就像一个上了锁的计算机箱子:两个不同的人可以各自把自己的秘密材料放进去,箱子会替他们完成计算,而双方都看不到对方放了什么。每一方把自己的东西投进箱子后,箱子会在内部把它们混合处理,最后只输出一个结果。没有人握有打开箱子的钥匙,所以连放东西进去的人自己,也看不到对方放入的内容。
这个箱子在评估 AI 模型时特别好用。如果评估机构直接把测试题交给模型公司,模型可能提前在这些题目上训练过,导致分数虚高;反过来,如果模型公司把模型本身交出去,又有技术泄露的风险。用了 Confidential Space 之后,评估机构看不到模型,模型公司也看不到题目,考试完全在箱子内部进行,最终只吐出评分结果。
在报道中是这样出现的
谷歌 DeepMind 表示,此次试点评估使用了谷歌云机密计算产品组合中的 Confidential Space。在这个环境里,评估机构看不到模型权重,谷歌也看不到测试题目。容易被误解的一点是,这并不是某个具体 AI 模型的名字,而是谷歌云的一项基础设施服务,能在替双方完成计算的同时,让彼此的机密互不可见。