오픈AI, 폴란드 NASK와 AI 안전 연구 협약

오픈AI가 폴란드 국가 연구기관 NASK와 AI 안전·보안·기술 연구 협력을 모색하는 협약을 맺었다고 10월 23일 밝혔다. 협약에 따라 폴란드 AI 안전연구소 역할을 하는 NASK AI 안전연구센터와 오픈AI는 점점 강력해지는 AI 시스템을 평가하는 방법, 잠재 취약점을 찾는 방법, 안전장치를 강화하는 방법을 함께 연구한다. 오픈AI가 미국 CAISSI(초지능 표준·혁신 진흥센터), 영국 AI 보안연구소(AISI)와 이어 온 공공 연구기관 협력망에 폴란드 기관이 더해졌다.

메탈이 확인한 오픈AI 발표문에 따르면 협약의 목표는 새로 떠오르는 위험을 더 잘 이해하고 안전장치를 강화하며, 고도화된 AI가 더 안전하고 회복력 있는 디지털 생태계에 기여할 길을 찾는 것이다. 오픈AI는 CAISSI·영국 AISI와의 기존 협력이 안전장치를 강화하고 AI 에이전트의 보안 취약점을 찾아 고치는 데 이미 도움이 됐다고 설명했다. 이번 협약은 협력을 모색하는 단계이며, 발표문에는 구체적인 연구 과제 목록이나 기간이 적혀 있지 않다.

NASK 쪽은 자기 연구 영역을 앞세웠다. 라도스와프 니엘레크(Radosław Nielek) NASK 원장은 연구센터가 새 위험에 대한 안전장치 개발, AI 생성 합성 콘텐츠 탐지, 악의적 사용과 다국어 측면 연구를 하고 있다고 소개했다. 그는 "AI 안전은 고립된 채로는 이룰 수 없다"며 "공공 AI 안전연구소와 프런티어 AI 개발사가 적극적으로 협력해야만 AI를 진정으로 믿고 안전하게 쓸 수 있게 만들 수 있다"고 말했다.

오픈AI는 폴란드 인재를 협약의 이유로 들었다. 톰 더프 고든(Tom Duff Gordon) 오픈AI 부사장 겸 유럽·중동·아프리카 정책 총괄은 "폴란드에는 뛰어난 과학자와 기술 인재가 있고 그중 다수가 오픈AI 자체 연구를 이끌어 왔다"며 "AI가 강력해질수록 우리 조직 밖의 전문성을 끌어와 우리 가정에 도전하고 시스템을 시험하고 안전장치를 강화해야 한다"고 밝혔다.

협약의 바탕에는 이미 나온 성과가 있다. NASK 안에서 운영되는 폴란드 국가 침해사고대응팀 CERT Polska는 7월 오픈AI의 사이버 방어 프로그램 데이브레이크를 통해 사이버 역량 모델 접근권을 얻었다. 이 팀은 오픈AI 모델의 도움으로 라트비아 네트워크 장비 업체 마이크로틱의 라우터 운영체제 RouterOS에서 취약점 6개를 찾아냈고, 그중에는 결합하면 인증 없이 장비를 장악할 수 있는 결함이 들어 있었다. 보도에 따르면 CERT Polska는 9월 5일 취약점을 공개했고, 탐지에는 GPT-5.5-cyber와 GPT-5.6-sol 모델이 쓰였다. 모델이 버전 비교와 프로토콜 분석, 바이너리 분석, 취약점 시험을 자동화하는 동안 연구진은 실제 RouterOS 장비에서 결과를 하나하나 검증했다.

찾아낸 결함은 실제 공격에 쓰이고 있었다. 같은 보도에 따르면 핵심 결함 두 개는 모두 위험도 점수 CVSS 9.2로, 하나는 사용자 RSA 키 전체가 아니라 공개 모듈러스만 비교해 개인 키 없이 로그인하게 하는 SSH 인증 우회이고, 다른 하나는 특수하게 만든 사용자 이름으로 세션을 관리자 권한까지 끌어올리는 결함이다. CERT Polska는 두 결함을 묶은 공격 사슬에 마이크로트릭(MikroTrick)이라는 이름을 붙였고, 9월 2일부터 인터넷에 SSH가 열린 장비를 노린 공격을 관측했다. 비영리 보안단체 섀도서버 재단은 9월 5일 하루 동안의 스캔에서 SSH가 열린 마이크로틱 장비를 최소 12만 2500대 찾았다고 밝혔으며, 이 수치는 취약 여부를 따지지 않은 값이다. 마이크로틱은 7.25beta3, 7.24.2, 7.23.4, 6.49.21 버전으로 패치를 냈고, CERT Polska는 패치가 관측된 공격을 막는다고 확인했다.

오픈AI는 이번 협약을 국제 표준 논의와 묶었다. 회사는 미국이 각국 AI 안전연구소·표준기구와 함께 프런티어 AI 국제 기술 표준을 만들어야 한다고 요구해 왔고, 역량 평가와 위험 평가, 안전장치 시험, 사고 보고에 공통 방식이 있어야 국경을 넘는 위험에 각국이 증거를 비교하며 대응할 수 있다고 본다. 발표문은 "NASK 같은 국가 파트너가 없으면 세계 AI 안전 표준이 AI가 실제로 쓰이는 현실과 동떨어질 수 있다"고 적었다. 메탈은 오픈AI가 프런티어 AI 국제 표준을 제안했다고 보도한 바 있으며, 오픈AI가 우크라이나 정부에 데이브레이크를 제공한 소식도 전했다.

이번 협약에서 눈여겨볼 대목은 순서다. 공공기관이 먼저 개발사 모델로 실제 공공 인프라의 결함을 찾아 패치까지 이끌었고, 그 경험이 모델 자체를 평가하는 연구 협약으로 이어졌다. NASK가 다국어 측면과 합성 콘텐츠 탐지를 연구 영역으로 내세운 만큼, 프런티어 모델의 안전 평가는 개발사 내부 시험을 넘어 각국 공공기관이 자기 언어와 자기 인프라 위에서 모델을 시험하는 일로 넓어지고 있다.