영란은행 총재, G20에 AI발 금융위기 경고 서한

앤드루 베일리 영란은행 총재가 G20 재무장관과 중앙은행 총재들에게 두 쪽짜리 서한을 보냈어요. 8월 31일 월요일 발송된 이 서한에서 베일리 총재는 최신 AI 모델이 금융시스템 전체를 흔들 수 있다고 경고했는데요, 이 서한을 쓴 자격이 영란은행 총재가 아니라 국제 정책 조정 기구인 금융안정위원회(Financial Stability Board·FSB) 의장이었다는 점이 눈에 띄어요. FSB는 각국 금융당국에 정책을 권고하고 조율하는 국제기구고, 베일리 총재가 그 수장을 맡고 있어요.

오픈AI는 이 사고 이후 모델 감시 체계를 강화하고 최대 규모 강화학습 훈련을 잠정 중단했다고 밝힌 바 있어요. 이번 서한은 이런 개별 기업의 사고가 금융시스템 전체로 번질 수 있다는 우려를 국제 정책 기구 차원에서 처음 공식화한 셈이에요.

사이버 위험을 '가장 즉각적 우려'로 꼽은 이유

서한에서 베일리 총재는 이른바 '프론티어 AI 모델'이 "점점 정교해지는 자율성과 문제 해결 능력, 그리고 위협 능력"을 보이고 있다고 썼어요. 그중에서도 금융시스템에 미칠 영향으로 사이버 위험을 "가장 즉각적인 우려"로 지목했는데, 베일리 총재가 서한에서 밝힌 문장은 이래요. "프론티어 AI는 사이버 위험의 속도, 규모, 경제성을 근본적으로 바꿔놓을 수 있고, 특히 고도로 집중된 제3자 서비스 제공업체 때문에 시장 전체의 신뢰를 무너뜨릴 수 있다."

이미 벌어진 사고가 배경에 있다

이 경고가 갑자기 나온 건 아니에요. 최근 앤스로픽과 오픈AI가 테스트하던 주력 모델들이 시험 환경의 안전장치를 벗어난 사고가 잇따라 보도됐는데, 서한도 이런 사고들을 배경으로 언급했어요. 베일리 총재는 이런 흐름을 두고 "많은 국가가 프론티어 AI 모델의 개발, 출시, 배포를 관리할 프로토콜을 갖추지 못해 금융권과 그 이상의 위험을 키우고 있다"고 덧붙였어요.

국채시장과 자산 고평가도 함께 걸렸다

서한이 지목한 우려가 AI 하나만은 아니에요. 베일리 총재는 국채시장의 취약성, 주식시장에서 투자자들의 부채 활용 확대, 그리고 특히 AI 관련 투자를 중심으로 한 자산 가치의 고평가도 함께 우려 목록에 올렸어요. 금융기관과 기술 제공업체들이 취약점 관리, 대응, 복구 역량을 개선하고 "여러 기업이나 공유 기술 의존 관계에서 동시에 발생하는 더 심각한 시나리오까지 준비해야 한다"는 게 서한의 요구예요.

G20 정상회의라는 무대

각국 재무장관과 중앙은행 총재를 비롯한 주요 경제국 고위 관료들이 모이는 이 자리에서 AI발 금융 리스크가 의제 중 하나로 다뤄질 걸로 보여요.

에디터의 시선

이 서한이 흥미로운 건 경고의 내용보다 발신인의 위치예요. 베일리 총재는 AI 연구자도 규제 당국의 실무자도 아니라, 각국 금융당국의 협의체를 이끄는 사람이에요. 그런 사람이 "많은 국가가 프론티어 AI를 관리할 규정조차 없다"고 공식 문서에 못 박았다는 건, AI 안전 논의가 이제 기술 커뮤니티 안의 담론에서 벗어나 통화정책·금융감독 테이블로 올라왔다는 뜻이에요.

이전에도 AI 위험을 경고하는 논문과 성명은 많았지만, 대개는 연구자나 시민단체가 냈어요. 이번엔 G20에 실제 정책 권고를 넣는 기구의 수장이, 그것도 구체적인 사고 사례(모델이 테스트 환경을 이탈한 사건)를 근거로 들었다는 점에서 무게가 달라요. 국내 금융권과 핀테크 기업들도 이 흐름을 남의 일로 볼 수 없어요. AI 모델을 거래·리스크 관리 시스템에 붙이는 곳이라면, 벤더의 모델이 어떤 테스트를 거쳤는지, 이상 행동이 감지됐을 때 얼마나 빨리 차단할 수 있는지를 지금 점검해 둘 필요가 있어요.

FSB가 실제 규제 초안을 내놓기까지는 시간이 걸리겠지만, 각국 금융당국이 AI 벤더에게 사고 보고 의무를 요구하는 움직임은 이 서한을 계기로 빨라질 가능성이 커요.