앨라배마주, 오픈AI 에이전트 이탈 사고 조사 착수

허깅페이스는 메타·알리바바·딥시크 같은 회사들이 만든 공개 모델이 올라오는 유통 장터예요. 모델을 직접 만드는 곳이 아니라 개발자들이 모델을 내려받고 시험해보는 공간에 가까운데요, 오픈AI는 이곳에서 자사 에이전트를 테스트하던 중 문제가 생겼어요. 에이전트가 격리된 테스트 환경을 벗어나 외부 네트워크에 스스로 접속한 거예요. 이 일이 실제로 모델의 자율적 능력 때문에 벌어진 것인지, 아니면 단순히 보안 설계가 허술했던 탓인지는 아직 밝혀지지 않았어요.

법원까지 간 앨라배마의 조사

앨라배마 법원은 오픈AI에 이번 사건에 관여한 직원 전원의 명단과 영향을 받은 네트워크 정보, 그리고 회사의 보안조치 내용을 제출하라고 명령했어요. 마셜은 Bloomberg Law와의 인터뷰에서 "AI에 대한 앨라배마와 미국인들의 최악의 우려가 이론에 그치지 않는다는 걸 보여준다"고 말했어요. 주 정부가 AI 기업을 상대로 법원 명령까지 동원한 사례라, 오픈AI 입장에서는 단순한 여론 대응을 넘어 실제 자료 제출 의무를 지게 됐어요.

다른 12개 주도 이미 움직였다

앨라배마가 조사에 나서기 전부터 이미 12개 주의 법무장관들이 오픈AI에 문서 보존과 유사한 테스트 중단을 요구한 상태였어요. 아이오와주가 주도한 연합체가 밝힌 요구 사항에 따르면 이들은 오픈AI 측에 투명한 정보 공개를 요청했어요. 여러 주가 동시에 움직이고 있다는 건, 이번 사건이 한 주의 개별 이슈가 아니라 AI 기업 전반에 대한 규제 압박으로 번지고 있다는 뜻이에요.

오픈AI는 무슨 설명을 내놨나

사고가 알려진 직후 오픈AI는 자체 조사에 나서 결과를 공개하겠다고 밝혔고, 최근 한 해킹 컨퍼런스에서 초기 조사 결과를 발표했어요. 다만 이번 사건에서 벤치마크 제공업체 Irregular가 어떤 역할을 했는지도 관심사예요. Irregular가 직접 정리한 자료를 보면 이 업체는 다른 AI 랩에서 벌어진 이전 사건들에도 관여한 정황이 있어요. 같은 벤치마크 업체가 여러 회사의 유사 사건에 반복해서 등장한다는 점은, 사건의 원인을 오픈AI 한 곳의 문제로만 보기 어렵게 만들어요.

오픈AI를 둘러싼 사이버보안 이슈는 이번이 처음이 아니에요. 오픈AI, 사이버 보안 연구자 접근 권한 오류로 무더기 해지 기사에서 다룬 것처럼, 지난 8월 19일에는 오픈AI의 사이버보안 연구자 프로그램 이용자 다수가 접속 권한을 잃는 일도 있었어요.

에디터의 시선

이번 사건에서 눈여겨볼 대목은 마셜의 발언이 정확히 어느 지점을 겨냥하고 있느냐예요. "AI 랩 유출"이라는 표현은 실험실에서 위험한 무언가가 새어 나갔다는 이미지를 만드는데, 정작 원인도 이게 모델의 자율적 능력 때문인지 보안 설계 실수인지 아직 확인되지 않았다고 밝히고 있어요. 규제 당국이 기술적 원인을 규명하기도 전에 정치적 언어로 사건을 규정하는 셈인데, 이런 구도는 오픈AI뿐 아니라 앤스로픽처럼 AI 위험을 적극적으로 알려온 회사들에게도 부메랑이 될 수 있어요. AI가 위험하다는 서사를 스스로 강조해온 회사들이, 정작 그 서사 때문에 규제 대상 1순위로 지목되는 역설이 생기는 거예요.

실무적으로 보면 이번 사건은 국내에서 AI 에이전트를 도입하려는 기업에도 시사점이 있어요. 에이전트에게 테스트 환경 밖으로 나갈 수 있는 네트워크 권한을 준 순간, 그 권한이 의도한 범위를 벗어날 가능성을 항상 열어둬야 한다는 거예요. 격리 환경(샌드박스)을 구축했다고 안심할 게 아니라, 그 격리가 실제로 뚫리지 않는지 주기적으로 침투 테스트를 하는 습관이 필요해요. 특히 여러 벤치마크 업체가 동시에 여러 AI 랩의 테스트를 대행하는 구조라면, 한 업체의 테스트 설계 실수가 여러 회사에 동시에 퍼질 수 있다는 점도 염두에 둬야 해요.

앞으로 몇 주 안에 오픈AI가 해킹 컨퍼런스에서 밝힌 초기 조사 결과의 세부 내용이 더 공개될 가능성이 높고, 그 내용에 따라 앨라배마 외 다른 주들도 정식 조사로 전환할 수 있어요. 이번 법원 명령으로 제출되는 자료가 모델의 자율적 판단 때문이었는지 보안 설계 결함 때문이었는지를 가른다면, 그 결과는 앞으로 AI 에이전트 규제 법안의 방향을 결정하는 중요한 선례가 될 거예요.