Prove2Me
一种要求AI不要让人直接相信其给出的答案或证明,而是以人或其他程序能够逐步重新核验的形式呈现结果的做法。
简单来说
Prove2Me 顾名思义就是「证明给我看」的意思。当AI声称自己解决了某个问题时,这种做法不会只接受最终结论,而是要求AI把推理过程写成任何人都能逐行跟着核对的形式。
举例来说,在数学证明中,AI不能只是给出「这个定理是成立的」这样的结论,而必须把得出该结论的逻辑推导过程写出来,让计算机能够逐行机械地检查。这样一来,人们就不必花上几个月的时间逐页审阅一份数百页的证明,而可以让程序代替人来确认其中是否毫无漏洞。
这种验证程序之所以重要,是因为随着AI解决的问题越来越难,能够判断结果是否真的正确的人也越来越少。不直接接受结论,而是要求以可验证的形式呈现,这种做法就成了防止人们过度信任AI答案的一道安全阀。