Continuous Monitoring

持续监控是指在AI系统运行期间,不断记录和监视其行为的体系。这类似于商店天花板上安装的监控摄像头,始终拍摄谁进来了、碰了什么东西。它不是只在出问题的那一刻才单独调查,而是平时就持续录制,需要时再回放查看。

对于能够自行运行外部程序或连接互联网的AI来说,这种记录就变得更加重要。仅仅保留问了什么、得到了什么答案的记录是不够的。还需要留下调用了哪个外部程序、用什么参数运行、结果又访问了哪里等信息,才能在事故发生时追溯原因。

监管机构要求持续监控,意味着要求运营者提前准备好证据,以便事故发生后能够还原整个过程。这是从只管理结果的方式,转向管理整个过程的方式。

在文章中常以"高风险系统需要持续监控"这样的说法出现。这句话的意思是,这是一种在事故发生之前就必须一直开着的监控装置,而不是事故发生之后才采取的补救措施。它容易与事故调查混淆,但持续监控的关键在于,无论是否发生事件,它都始终在运作。