감사 로그

감사 로그는 AI가 실행한 행동을 순서대로 남겨두는 기록이다. 비행기의 블랙박스를 떠올리면 이해가 쉽다. 평소에는 아무도 들여다보지 않지만 사고가 나면 무슨 일이 있었는지 되짚어보는 거의 유일한 증거가 된다. AI가 어떤 기능을 불렀는지, 어떤 값을 넣었는지, 어떤 외부 시스템에 접속했는지가 여기에 남는다.

이게 중요해진 이유는 AI가 스스로 판단해 여러 단계를 거쳐 일을 처리하는 구조로 바뀌었기 때문이다. 사람이 화면을 클릭할 때는 화면 기록만으로도 충분했지만, AI가 중간 과정을 알아서 처리하면 사람은 그 과정을 직접 보지 못한다. 그래서 질문과 답변만 남기는 걸로는 부족하다. 중간에 무엇을 호출했고 어디로 접속했는지까지 남아야 나중에 문제가 생겼을 때 원인을 재구성할 수 있다.

규제 논의에서 이 말이 자주 등장하는 이유도 여기 있다. 위험도가 높다고 분류된 AI 시스템에는 이런 기록을 일정 기간 보관해야 하는 의무가 따라붙는 경우가 많다. 사고가 났을 때 회사 스스로도, 감독 기관도 무슨 일이 벌어졌는지 확인할 방법이 있어야 한다는 요구다.

기사에서는 EU가 오픈AI·앤스로픽에 요구하게 될 항목 중 하나로 감사 가능한 실행 로그가 등장한다. 도구를 부른 단위로 기록을 남기고 보존 기간까지 정해야 한다는 맥락이다. 흔한 오해는 대화창에 뜬 질문과 답변만 저장하면 충분하다는 생각인데, AI가 도구를 부르고 외부 시스템에 접속하는 구조에서는 그 중간 과정까지 남아야 사고 경위를 재구성할 수 있다.