오픈AI, 블록·센티넬원 데이브레이크 사례 공개

오픈AI가 10월 14일 핀테크 기업 블록과 보안 기업 센티넬원의 데이브레이크 도입 사례를 함께 공개했다. 데이브레이크는 오픈AI가 방어자에게 사이버 보안 작업용 모델을 공급하는 프로그램이다. 두 사례의 공통분모는 시간이다. 센티넬원은 최고 수준 연구자가 4~6주 걸리던 악성코드 역분석을 약 8시간으로 줄였고, 블록은 최근 레드팀 훈련에서 상위 수준의 취약점 보고를 넣고 자동 패치 제안이 나오기까지 18분이 걸렸다고 밝혔다.

블록은 결제 단말 Square, 송금 앱 Cash App, 후불결제 Afterpay를 운영하는 회사다. 오픈AI에 따르면 블록 보안팀은 AI가 취약점 발견과 탐지, 대응을 맡는 오픈AI 디펜스 팩토리 방식을 쓰고 있으며, 몇 주 걸리던 일을 몇 시간 만에 끝낸다. 제임스 네테스하임 블록 최고정보보호책임자(CISO)는 "AI가 사람의 의도에서 실행까지 걸리는 시간을 압축하고 있다"며 "데이브레이크 같은 도구 덕분에 방어자도 불은 불로 맞서며 AI 도입 속도를 따라갈 수 있다"고 말했다.

블록이 공개한 수치는 탐지 업무에 몰려 있다. 조사마다 원본 쿼리 증거를 저장해 두기 때문에, 탐지 규칙을 바꾸자는 제안을 7개월 치 운영 원격측정 데이터에 다시 돌려 보는 데 1시간이 채 걸리지 않는다. 예전에는 지난 사건 수백 건을 손으로 다시 조회해야 해서 실제로는 거의 하지 못했던 일이다. 자동 분류 체계를 들인 뒤 분류 처리량은 50% 늘었고, 정보 수집과 조사도 50% 늘었다. 조사는 분기마다 분석가 약 1100시간 분량을 수행하고, 오탐 분류에서 돌려받은 시간은 분기당 약 600시간이다. 네테스하임 CISO는 "모든 경보를 그날 유일한 경보처럼 다룬다"고 설명했다.

모델 운용 방식도 바뀌었다. 블록 보안팀은 예전처럼 늘 최신 모델을 쓰지 않고 작업마다 다른 모델을 고른다. 데이브레이크 위에 세운 보안 하네스가 작업을 알맞은 모델로 보내고, 사람이 작업을 넘겨받거나 에이전트끼리 서로의 결과를 검증하는 연결 지점을 둔다. 팀은 이 체계를 내부 벤치마크와 실제 성과로 계속 평가하고, 책임 있는 경로가 사람 검토라면 그쪽으로 일을 돌린다.

두 사건이 그 효과를 보여 준다. 노트북 한 대에서 뜬 경보는 처음엔 사소한 정책 위반처럼 보였다. 동료 검토 단계에서 모델이 증거에 우연히 섞인 지표 하나를 따라가 블록의 신원 로그와 맞대 보자 훨씬 큰 문제 묶음이 드러났다. 네테스하임 CISO는 "평범한 엔드포인트 경보 하나가 공격 캠페인 차단으로 이어졌다"며 "그 신호는 두 제품의 로그를 함께 볼 때만 존재한다"고 말했다. 최근 레드팀 훈련에서는 내부 시스템에 대한 힌트 몇 개를 받은 모델이 SQL 인젝션, 권한 상승, 거점 확보, 자격 증명 수집, 다른 시스템으로의 이동을 잇는 공격 경로를 약 2시간 만에 엮어 냈다. 사람 레드팀이라면 보통 며칠이 걸리는 작업이다.

센티넬원의 숫자는 역공학에서 나왔다. 그레고르 스튜어트 센티넬원 최고AI책임자(CAIO)는 "최고 수준 연구자가 4주나 6주 걸려 하던 일을 이제 AI가 8시간 정도에 사람 수준 결과물로 해낸다"고 말했다. 예전 센티넬원 연구팀은 가장 흥미롭거나 중요한 위협에만 깊은 조사를 할 수 있었고, 역분석할 수 있는 소프트웨어도 아주 적었다. 비교할 표본이 적으니 위협 사이의 연결을 찾을 기회도 적었다. 분석이 빨라지자 서로 무관해 보이던 두 표본에서 같은 구성 요소를 찾아 고객 조사의 단서로 삼을 수 있게 됐다. 스튜어트 CAIO는 이를 "예전에는 감당할 수 없던 종류의 정보"라고 불렀다.

이 협력은 9월부터 상품으로 이어졌다. 메탈이 확인한 센티넬원의 9월 3일 보도자료에 따르면 센티넬원은 데이브레이크 디펜스 네트워크를 통해 오픈AI 모델을 받아 위협 노출 점검 서비스 「웨이파인더 프런티어 AI 서비스」를 넓혔고, 그 첫 모델이 GPT-5.6-Cyber다. 센티넬원의 연구 조직 센티넬랩스는 최근 벤치마크에서 GPT-5.6-Cyber가 fast16 같은 군사급 악성코드의 역공학과 분석에서 가장 뛰어났다고 평가했다. 새 서비스는 저장소의 결함과 코드 임플란트, 노출된 비밀값, 공급망 위험을 훑는 코드 위험 분석과, 원격측정 데이터를 탐지 규칙에 맞춰 보는 침해 평가 두 갈래다. 두 기능은 비공개 미리보기로 배포 중이다. 스티브 스톤 센티넬원 최고고객책임자(CCO)는 "공격자는 AI로 약점을 더 빠르고 더 큰 규모로 찾아 악용하고 있다"고 말했다.

AI 엔지니어의 눈으로 보면 두 사례가 공들인 곳은 모델 성능이 아니라 사람의 자리를 어디에 박아 두느냐다. 스튜어트 CAIO는 "자동화할 수 없는 단 하나는 책임"이라며 아키텍처를 바꾸는 결정에는 여전히 사람의 눈이 필요하고 부분 수정은 자동화에 더 맞다고 선을 그었다. 블록도 발견한 취약점마다 코드 위치와 담당자를 찾고, 패치를 제안하고, 악용 가능성을 확인하고, 고쳤는지 검증하는 순서를 사람이 이끌며 코드 변경을 배포한다. 에이전트는 조직의 맥락과 과거 결정의 이유를 갖고 있지 않다는 것이 블록의 판단이다. 네테스하임 CISO는 AI의 판단이 실전에서 입증되는 만큼 "더 민감한 시스템으로 위험 수준을 천천히 올려 갈 것"이라고 말했다.

메탈은 오픈AI가 소포스의 데이브레이크 도입 사례를 공개했다고 보도한 바 있으며, 오픈AI가 250명을 투입해 사내 취약점을 훑은 디펜스 팩토리 방식도 전한 바 있다. 이번 두 사례로 데이브레이크는 탐지·대응 대행에서 결제 기업의 내부 보안팀과 악성코드 연구 조직까지 넓어졌다. 다음 과제는 취약점이 애초에 덜 생기게 하는 일이다. 네테스하임 CISO는 보안팀이 패치보다 예방과 전략 업무에 더 많은 시간을 쓰게 하겠다고 밝혔고, 스튜어트 CAIO는 오픈AI의 사이버 역량을 코드 작성 단계로 들여 개발자가 만드는 동안 보안 문제를 해결하게 하겠다고 했다.