Benchmark Contamination
AI模型在训练过程中提前接触到了测试题目,导致跑分虚高、无法反映真实能力的现象
简单来说
基准污染是指AI模型在训练过程中已经提前接触过用来测试其能力的题目,导致最终得分比实际水平更高的问题。这就好比一名学生考试前一天偶然看到了答案,结果考了满分,但这并不代表他真的掌握了这门学科。
问题在于,这份"答案"并不是被人偷偷塞给模型的。AI模型是靠互联网上海量的文本作为训练材料学习的,而这些材料中常常会不小心混入某些测试题目及其正确答案。随着模型规模和训练数据量不断增加,想要逐一核实哪些题目其实早已混入其中,也变得越来越困难。
因此,仅凭分数来比较不同模型的能力,很容易产生误解。用被污染的测试得到的高分,可能并非真实实力的体现,而只是"提前见过题目"的结果。
在报道中是这样出现的
文章解释道:"如果模型在训练过程中已经接触过基准测试题目,那么它的得分就无法反映真实能力。这种现象被称为'基准污染'。"为了防止这种情况,Google DeepMind试行了一种双盲机制,对测试题目和模型权重都进行加密,使评测机构和模型双方都无法看到对方的内容。容易被误解的一点是:基准污染并不意味着模型故意作弊,大多数情况下,这只是测试题目偶然混入训练数据所导致的结果。