앤스로픽, 사이버 미션·OSS Scanner 공개

앤스로픽이 10월 8일(현지 시간) 핵심 기반시설과 오픈소스 소프트웨어 방어를 묶은 장기 사업 「앤스로픽 사이버 미션」을 출범했다. 첫 두 갈래는 발전·수도·교통망의 운영기술(OT)을 지키는 보안 업체에 프런티어 모델과 현장 엔지니어를 붙이는 핵심 기반시설 방어 프로그램(CIDP), 그리고 오픈소스 프로젝트를 가장 강한 모델로 무료로 정기 점검하는 OSS Scanner다. OSS Scanner의 보고서는 사람 검토 없이 모델이 쓴 그대로 관리자에게 간다. 앤스로픽은 참 양성 비율이 90%를 넘을 것으로 본다고 밝혔다.

출발점은 처리하지 못한 취약점의 더미다. 앤스로픽 프런티어 레드팀에 따르면 회사는 지난 6개월 동안 최신 모델로 세계 주요 소프트웨어를 훑어 후보 취약점 2만9000여 건을 찾았지만, 사람이 직접 검토하고 분류한 것은 약 6000건에 그쳤다. 레드팀은 "사람이 검증할 수 있는 역량에 여전히 병목이 걸려 있다"고 적었다. 첫 보고를 받은 관리자들이 검증 안 된 보고서까지 패치 제안과 함께 전부 달라고 요청하는 일이 잦아졌고, 그렇게 보낸 보고서가 지금까지 5000건 가까이 된다. OSS Scanner는 이 요청을 상시 서비스로 바꾼 것이다.

모델의 실력이 이 판단의 근거다. 레드팀에 따르면 학계 취약점 탐지 벤치마크 CyberGym에서 언어모델이 찾아낸 취약점 비율은 지난해 초 20% 미만에서 올해 85% 이상으로 뛰었다. 레드팀은 그 결과 오픈소스 관리자들이 받는 AI 보고서가 대부분 쓰레기 수준에서 질 높은 버그 보고로 바뀌었다고 설명했다. 보고서는 Claude Mythos를 포함한 가장 강한 모델이 만든다. 구글의 오픈소스 퍼징 서비스 OSS-Fuzz에서 착안했고, 기업용 유료 제품인 Claude Security와 달리 비용은 앤스로픽이 전부 댄다.

정확도는 사전 검증으로 쟀다. 앤스로픽의 조율된 취약점 공개(CVD) 결과를 검토하는 전문 모의해킹 인력이 초기 버전이 48개 프로젝트에서 찾은 치명·고위험 취약점 97건을 확인했더니 85건(88%)이 CVD 공개 기준을 넘었다. 나머지 12건 가운데 11건은 실제 버그였지만 이미 알려졌거나 같은 점검에서 중복으로 나온 것이었고, 오탐은 1건뿐이었다. 지난 몇 주 동안 수십 개 프로젝트와 돌린 시험에서는 수백 건의 버그 보고가 나갔고, 그중 여러 취약점은 인증 없이 원격 코드를 실행하는 공격으로 엮을 수 있었다.

시험 참가자들의 평가는 구체적이다. 임베디드 암호 라이브러리 wolfSSL의 토드 오스카는 "받은 보고서 74건 가운데 2건을 빼고 모두 유효했고 5건은 CVE가 됐다"며 "더 받고 싶다"고 밝혔다. OpenSSL 코퍼레이션의 안톤 아라포프는 "약 18개월 전 초기 AI 보고서는 끔찍했다"면서 "앤스로픽에서 받은 보고서는 모델 원출력까지 포함해 사람이 쓴 것만큼, 때로는 더 좋았다"고 말했다. PostgreSQL의 노아 미시는 일부 보고서가 고칠 방법을 거의 그대로 쓸 수 있는 형태로 담고 있었고, 빠른 수신 덕에 정식 출시 전에 최신 문제를 고쳤다고 전했다.

보고서 하나에는 단독으로 돌아가는 재현 코드, 취약점 설명, 가능하면 버그가 언제 들어왔는지 코드 이력을 거슬러 찾은 이분 탐색 결과, 그리고 후보 패치가 들어간다. 메탈이 확인한 OSS Scanner 안내 문서에 따르면 점검 에이전트는 인터넷을 완전히 끊은 강화 샌드박스 안에서만 돈다. 관리자가 깃허브 저장소 anthropics/oss-scanner에 풀 리퀘스트로 project.yaml 설정 파일을 올리면 신청이 되고, 저장소 주소와 주 연락처, 프로젝트를 오프라인에서 빌드하는 Dockerfile이 필수 항목이다. 선정 기준은 OSS-Fuzz와 같은 「기반시설과 사용자 보안에 결정적 영향」이며 건별로 심사한다.

공개 규칙은 기존과 다르게 짰다. 안내 문서에 따르면 검증되지 않은 보고서에는 90일 공개 유예 같은 기한을 걸지 않는다. 앤스로픽 스스로 꼼꼼히 읽지 않은 결과를 관리자에게 기한까지 붙여 강요하기 어렵다는 이유다. 나중에 사람이 검증하면 그 사실을 통보한 날부터 90일 뒤에 CVD 정책에 따라 공개할 수 있다. 관리자는 설정 파일에 disabled: true 한 줄을 넣어 수신을 멈출 수 있다. 시험 단계에서 일부 관리자는 심각도가 부풀려졌거나 스캐너가 프로젝트의 위협 모델을 잘못 이해했다고 지적했고, 앤스로픽은 관리자 피드백으로 시스템을 다듬겠다고 했다.

핵심 기반시설 쪽 창립 파트너는 11곳이다. 액센추어, 부즈앨런, 크라우드스트라이크, 딜로이트, 드라고스, 히타치, 인세인 사이버, 노조미 네트웍스, 팔로알토 네트웍스, PwC, 록웰 오토메이션이 이름을 올렸다. 컨설팅사와 보안 업체, 설비 제조사가 고루 섞였다. 보도에 따르면 앤드루 터너 부즈앨런 상업 사이버 부문 사장은 운영기술을 "자율 AI 공격의 다음 전선"이라고 불렀다. 같은 보도는 파트너가 모델을 무료로 쓰는지, 컴퓨팅 비용을 누가 대는지 같은 상업 조건은 발표에 없었다고 짚었다.

메탈은 앤스로픽이 Claude Security 스캔을 Mythos 5로 돌린다고 보도한 바 있으며, 앤스로픽이 GLM-5.3의 사이버 역량을 분석한 내용도 전했다. 앤스로픽은 프로젝트 글래스윙을 이번 주 초 확대된 사이버 검증 프로그램(Cyber Verification Program)으로 합쳤다고 밝혔다. 보도에 따르면 글래스윙은 4월부터 검증된 기관에 Mythos를 열어 준 프로그램이다. 6월에 시작한 주·지방정부 대상 사이버 방어 프로그램은 미국 주의 절반 넘는 곳에 모델과 기술 지원을 제공하고 있다. OSS Scanner를 무료로 유지하는 돈은 8월에 만든 방어자 우위 기금(0xDAF)에서 나온다. 앤스로픽은 파이썬 소프트웨어 재단과 아파치 소프트웨어 재단, 리눅스 재단 산하 Alpha-Omega와 OpenSSF에도 자금을 댔다.

메탈이 확인한 앤스로픽 공식 X의 출범 게시물은 하루가 안 돼 조회 13만8000여 회, 좋아요 1500여 개를 기록했다. 법률가의 눈으로 보면 이번 설계의 핵심은 책임의 위치를 옮긴 데 있다. 사람 검토를 빼는 대신 공개 기한을 걸지 않고, 신청과 중단을 관리자가 풀 리퀘스트 하나로 정하게 했다. 오탐의 비용을 관리자가 질 수 있는 프로젝트만 받겠다는 뜻이다. 앤스로픽은 2년 안에 AI가 방어 쪽에 유리해질 것으로 내다보면서도, 당장은 취약점을 악용하는 비용이 떨어진 반면 검증과 수정은 여전히 사람에게 달려 느리다고 밝혔다. 운영기술은 돌아가는 설비에 안전하게 적용할 때까지 패치가 드물게는 수십 년을 기다려야 한다.