오픈AI, 리눅스 커널 취약점 948건 패치 생성

오픈AI가 11월 4일(현지 시각) 리눅스 커널의 보안 취약점을 찾고, 재현하고, 공격 가능성을 확인한 뒤 패치까지 만드는 자율 파이프라인의 실험 결과를 담은 보고서 「A thousand fewer paths to root」를 공개했다. 아직 이름을 밝히지 않은 차세대 사이버 모델로 한 번 돌린 결과, 일반 사용자 계정으로 관리자(root) 권한을 빼앗을 수 있는 로컬 권한 상승(LPE) 취약점 948건을 검증하고 각각의 패치를 생성했다. 전체 API 비용은 121만 3,430달러, 권한 상승 익스플로잇 1건당 1,279달러였다. 오픈AI는 X 공식 계정에 "보안 연구원들이 자율 사이버 취약점 탐색·공격·패치 파이프라인을 만들었다"고 밝혔고, 이 글은 반나절 만에 조회수 132만 회를 넘었다.

실험은 2026년 10월 중순 최신 리눅스 커널을 대상으로 진행됐다. 파이프라인은 후보 결함 2,308건을 찾아 1,724건을 실제 취약점으로 재현했고, 정보 유출 취약점 291건의 개념증명(PoC)과 작동하는 권한 상승 익스플로잇 948건을 만들었다. 공격 대상 가상머신은 일부러 약하게 만든 환경이 아니라 널리 쓰이는 리눅스 배포판의 기본 데스크톱 운영체제였다. 리눅스 커널은 코드가 4,000만 줄이 넘고 안드로이드 기기와 클라우드 인프라, 슈퍼컴퓨터를 떠받친다. 오픈AI는 6월 Patch the Planet 프로그램을 시작하며 GPT-5.5 Cyber가 권한 상승 익스플로잇 24건을 만들었다고 밝힌 바 있다. 넉 달 만에 같은 종류의 작업에서 나온 수가 40배 가까이로 불었다.

파이프라인은 다섯 단계로 돈다. 먼저 스카우트 에이전트가 커널의 폴더와 파일을 훑어 일반 사용자가 닿을 수 있고 보안상 의미가 있는 감사 대상 5,034곳을 골랐다. 약 280만 줄, 커널 전체의 7% 정도이고 이 단계 비용은 3,426달러였다. 이어 분석 에이전트가 12시간 동안 후보 결함 2,308건을 냈다. 검증 단계에서는 메모리 오류를 잡아내는 KASAN을 켠 격리 가상머신에서 트리아지 에이전트가 PoC를 직접 만들어 돌렸고, 30시간 만에 후보의 74.7%인 1,724건을 재현했다. 재현에 실패한 후보 가운데 모델이 불가능한 조건을 가정한 잘못된 분석은 3.1%에 그쳤다. 나머지는 상위 권한이 필요하거나 경쟁 상태를 재현하기 어려운 경우였다.

공격 가능성 평가는 실제 배포판 수준의 방어 장치를 켠 채 진행됐다. 선별 에이전트가 1,724건을 정보 유출 후보 313건과 권한 상승 후보 1,238건으로 좁혔고, 익스플로잇 개발 에이전트가 SMEP·SMAP·KASLR 같은 커널 보호 기능이 모두 켜진 가상머신에서 작동하는 권한 상승 익스플로잇 1,169개를 만들었다. 변형 분석으로 같은 뿌리의 결함을 묶어 서로 다른 패치 948개가 나왔고, 오픈AI는 이 숫자를 고유 취약점 수로 삼았다. 메탈이 확인한 보고서의 단계별 비용을 더하면 탐색 3,426달러, 분석 31만 6,549달러, 검증 7만 3,330달러, 선별 4만 4,194달러, 익스플로잇 개발 77만 5,929달러로, 익스플로잇 개발이 전체 비용의 약 64%를 차지했다. 성공한 시도는 평균 360달러였지만 실패한 69건은 평균 3,922달러가 들었다.

모델 세대가 바뀌자 결과가 크게 달라졌다. 7월 말 GPT-5.6 Sol로 돌린 첫 스캔은 51만 3,690달러를 들여 고유 권한 상승 취약점 166건을 찾았다. 석 달 동안 커널이 보강됐는데도 10월 스캔은 새 권한 상승 취약점을 다섯 배 넘게 찾아냈다. 에이전트가 익스플로잇 166개에서 쓴 공격 기법 가운데 10가지는 외부 커널 공격 전문가들도 처음 보는 것이었고, 오픈AI는 안전을 이유로 세부를 공개하지 않았다. 회사는 "프런티어 모델은 알려진 취약 코드 패턴을 맞춰 보는 데 그치지 않고 창의성과 새로운 접근을 보여 준다"고 썼다. 오케스트레이션 실험도 같은 흐름을 보였다. GPT-5.5 Cyber에 공격 기법 103개를 정리해 주자 후보 63건에서 성공률이 76.2%에서 88.9%로 올랐지만, GPT-5.6 Cyber는 기법 목록 없이 92.1%를 냈고 목록을 더해도 1.5%포인트 오르는 데 그쳤다. 오픈AI는 무거운 보조 장치를 걷어 냈다.

비용 대비 가치도 계산했다. 해킹 대회 Pwn2Own과 TyphoonPWN이 리눅스 커널 권한 상승에 걸었던 상금 2만 달러와 7만 달러를 948건에 적용하면 가상 가치는 1,890만~6,630만 달러로, 파이프라인 비용의 16~55배다. 공격면을 줄인 구글 kernelCTF 환경에서는 112시간, 3만 2,936달러로 권한 상승 익스플로잇 21개를 만들었다. 올해 kernelCTF가 인정한 제로데이 권한 상승은 26건이다. 그 실험 도중 에이전트는 테스트에 쓰던 에뮬레이터 QEMU의 결함까지 찾아 공격에 성공했다. 초기 실행에서는 성공으로 보고된 200건 가운데 20건이 배정받은 취약점이 아닌 다른 제로데이로 root를 얻은 사실이 사람의 검토로 드러났고, 오픈AI는 최종 익스플로잇이 배정된 취약점을 썼는지 따로 확인하는 절차를 넣었다.

커널 관리자들도 빠르게 움직였다. 스캔과 수동 분석이 끝난 열흘 사이 권한 상승 취약점 61건이 이미 업스트림에서 고쳐졌고, 43건은 반영 대기 중인 패치가 있었으며, 299건이 공개 논의 중이었다. 오픈AI는 리눅스 커뮤니티의 권고에 따라 치명적인 취약점부터 보고서와 패치 수백 건을 보냈고 나머지는 Patch the Planet 파트너와 순차적으로 보낸다. 보도에 따르면 이 프로그램은 트레일 오브 비츠, 해커원, 캘리프와 함께 만든 데이브레이크 이니셔티브다. 메탈은 같은 프로그램이 PHP 치명적 취약점에 공동 대응한 소식을 보도한 바 있다.

취약점이 쏟아지는 속도는 다른 집계에서도 확인된다. 보도에 따르면 구글 위협 인텔리전스 그룹 집계에서 월별 공개 취약점은 1월 5,045건에서 8월 1만 740건으로 두 배를 넘었다. 영국 국가사이버보안센터(NCSC)는 이번 주 평가에서 "AI 사이버 도구가 널리 퍼지면서 제로데이 취약점 발견이 크게 늘었을 것이 거의 확실하다"고 밝혔다. 오픈AI는 보고서에서 "가까운 미래와 중기적으로는 최신 패치를 적용하지 않은 운영체제의 저권한 계정에 접근하는 것을, 자원이 충분한 공격자에게는 사실상 root 접근과 같은 것으로 봐야 한다"고 경고했다. 회사가 내놓은 처방은 모델 세대가 바뀔 때마다 같은 코드를 다시 스캔하고, 패치 생성을 자동화하며, 파이어크래커와 gVisor 같은 격리 기술로 피해 범위를 줄이는 것이다. 발견 비용이 건당 1,000달러대로 내려온 지금, 소프트웨어 보안의 승부는 누가 먼저 찾느냐보다 누가 먼저 고쳐서 배포하느냐로 옮겨 가고 있다.