상시 모니터링

상시 모니터링은 AI 시스템이 작동하는 동안 무엇을 했는지 계속 기록하고 지켜보는 체계를 말한다. 매장 천장에 달린 CCTV가 사람이 언제 들어와 무엇을 만졌는지 늘 찍어두는 것과 비슷하다. 문제가 생긴 순간만 따로 조사하는 게 아니라, 평소부터 계속 녹화해 두었다가 필요할 때 되돌려 보는 방식이다.

스스로 외부 프로그램을 실행하거나 인터넷에 접속하는 형태의 AI라면 이 기록이 더 중요해진다. 무엇을 물어보고 어떤 답을 받았는지만 남기는 것으로는 부족하다. 어떤 외부 프로그램을 불러썼는지, 어떤 값을 넣어 실행했는지, 그 결과 어디에 접속했는지까지 남아야 사고가 났을 때 원인을 되짚을 수 있다.

규제 당국이 상시 모니터링을 요구한다는 것은, 사고가 터진 뒤에도 그 과정을 재구성할 증거를 사업자가 미리 준비해두라는 뜻이다. 결과만 관리하던 방식에서 과정 전체를 관리하는 방식으로 넘어가는 셈이다.

기사에서는 "고위험 시스템에는 상시 모니터링이 필요하다"는 식으로 등장한다. 이 말은 사고 이후에 취하는 재발 방지책이 아니라, 사고가 나기 전부터 늘 켜져 있어야 하는 감시 장치라는 뜻이다. 사고 조사와 헷갈리기 쉽지만, 상시 모니터링은 사건 유무와 상관없이 항상 작동하는 것이 핵심이다.