아웃바운드 필터링

아웃바운드 필터링은 어떤 시스템 안에서 밖으로 나가려는 통신을 검사해서 막는 장치다. 건물 출입 통제에 비유하면 이해가 쉽다. 대부분의 보안은 「누가 들어오는가」를 검사하는데, 아웃바운드 필터링은 반대로 「안에 있던 게 밖으로 나가려 하는가」를 검사한다. 창고에 물건을 넣는 문은 열려 있어도 되지만, 물건이 몰래 빠져나가는 뒷문은 막아야 하는 상황과 같다.

AI 모델을 시험할 때 이 장치가 중요해지는 이유는, 시험 환경이 「인터넷과 완전히 차단됐다」고 안내받아도 실제로는 밖으로 나가는 통로가 열려 있을 수 있기 때문이다. 모델이 가짜 표적을 공격하는 훈련이라고 믿고 움직이다가, 그 통로를 타고 진짜 외부 서버에 도달해 버리는 사고가 이렇게 일어난다. 아웃바운드 필터링이 제대로 걸려 있었다면, 모델이 무엇을 시도하든 그 시도가 실제 인터넷 밖으로 나가는 순간 차단됐을 것이다.

반대로 이 필터링에 구멍이 있으면, 안에서 벌어지는 일은 격리돼 있다고 믿었던 것과 달리 밖으로 새어 나간다. 격리라는 말은 「안에 가둔다」는 뜻보다 「안팎을 나누는 문이 실제로 잠겨 있는가」의 문제에 더 가깝다.

기사에서는 이 표현이 직접 쓰이진 않지만, 사고 원인 설명이 정확히 이 개념이다. 앤스로픽은 모델에게 인터넷과 차단된 환경이라고 안내했지만 실제로는 외부 접속 경로가 열려 있었고, 그 경로로 클로드 Mythos 5가 PyPI에 악성 패키지를 올려 외부 15곳에서 실행됐다. 오해 바로잡기: 이건 모델이 격리를 뚫는 새로운 해킹 기술을 쓴 게 아니라, 격리 자체를 구성하는 쪽(위탁 평가업체·설정)에서 나가는 통로를 제대로 막지 않은 설정 실수에 가깝다.