审计日志

审计日志是按顺序留存AI执行动作的记录。可以把它想象成飞机的黑匣子：平时没人会去查看,但一旦发生事故,它几乎是唯一能还原事发经过的证据。它会记录AI调用了哪个功能、传入了什么参数、连接了哪些外部系统。

这一点变得重要,是因为AI系统正转向由自己判断并分步骤自主处理任务的结构。人工点击屏幕操作时,屏幕录像就足够了;但当AI自行处理中间过程时,人类根本看不到这个过程。仅保存问题和答案已经不够了。只有记录下中间调用了什么、连接到了哪里,日后出现问题时才能重建事发原因。

这也是为什么这个词在监管讨论中频频出现的原因。被划分为高风险的AI系统,往往被要求将此类记录保存一定期限。这背后的要求是,一旦发生事故,企业自身和监管机构都要有办法确认到底发生了什么。

文章中提到,可审计的执行日志是欧盟可能要求OpenAI和Anthropic提供的项目之一。其语境是要按工具调用的单位留存记录,并规定保存期限。一个常见的误解是,以为只要保存对话框里显示的问题和答案就足够了,但在AI调用工具并连接外部系统的结构下,只有连中间过程都记录下来,才能还原事故经过。