误判 (false positive)

误判指的是明明没有任何问题,检测工具却错误地发出警报。就像周围没有烟雾,火警却响了,或者正常邮件被误归入垃圾邮件箱一样。用来识别AI写作的服务也可能出现同样的情况。如果工具给一段人类亲手写的文字打出「AI参与度78%」这样的分数,那这个分数本身可能就是错的——这就是误判。

问题在于,误判不只是一个数字而已。出版社可能因为这个分数取消合约,作者也可能因此被无端怀疑,造成实际损害。尤其是判断文章是否由AI撰写的服务,内部往往也依赖AI模型来做判断,所以必须始终记住这类检测工具并不完美。

文章提到,自出版小说《Shy Girl》被Pangram判定为78%由AI生成,作者对此强烈否认。如果作者的说法属实,这就可能是一次误判,即把人写的文章错误判定为AI所写。正因为存在误判的可能性,AI检测分数本身不能被直接当作「AI撰写的证据」。

准备一段自己亲手写的文字和一段请AI代写的文字,分别输入AI检测服务查看分数,再看看自己写的文字是否也被打出很高的AI分数,就能切身体会到误判到底有多常见。