앤스로픽 연방 AI 안전 법안 초안 유출

앤스로픽이 미국 의회 일부 의원실에 돌려 온 연방 AI 안전 법안 초안이 지난주 언론을 통해 유출되면서 AI 안전 진영의 거센 반발을 불렀다. 9월 29일 마지막으로 수정된 37쪽 분량의 초안은 상무부를 프런티어 AI 규제 기관으로 세우고 대형 개발사에 안전 프레임워크 공개와 외부 평가, 사고 보고를 의무로 지운다. 동시에 주 정부가 같은 영역에 독자 규칙을 두지 못하게 막고, 위험한 모델을 멈추려면 연방 법원의 높은 문턱을 넘도록 했다. 앤스로픽의 연방 업무 책임자 앤서니 시미노는 10월 18일 X에 장문을 올려 "우리 제안은 핵심적으로 테이블 위에서 가장 강력한 안이 되도록 만든 것"이라며 주법 선점 문구를 고치겠다고 밝혔다.

초안의 이름은 아직 정해지지 않았다. 첫 장에는 AI 평가·거버넌스·사고 안전법(AEGIS Act)과 2026년 첨단 AI 책임법이 괄호 속 후보로 함께 적혀 있다. 적용 대상은 학습에 10의 25제곱 회를 넘는 연산을 쓴 파운데이션 모델, 곧 프런티어 모델이다. 무거운 의무는 직전 해 AI 관련 매출이 5억 달러를 넘거나 개발비로 10억 달러 넘게 쓴 대형 프런티어 개발사에 붙는다. 보도에 따르면 이 매출 기준은 앤스로픽이 2025년 7월 내놓은 투명성 프레임워크의 약 1억 달러보다 다섯 배 높다. 메탈이 확인한 37쪽 초안 원문에는 앤스로픽이라는 이름이 한 번도 나오지 않는다. 보도에 따르면 앤스로픽 대변인은 이 초안이 회사가 몇 달째 제안해 온 프레임워크의 법안판이라고 인정했고, 시미노의 X 글도 회사 초안임을 밝혔다.

의무의 골격은 공개와 검증이다. 대형 개발사는 법 시행 90일 안에 열한 가지 항목을 담은 안전 프레임워크를 써서 공개하고, 책임 임원이 해마다 준수 여부를 서명해 상무부에 낸다. 180일마다 위험 보고서를 공개하고 가리지 않은 원본은 이사회에 넘긴다. 독립 평가 기관을 최소 한 곳 두고 180일마다 평가 보고서를 받아야 하며, 평가 기관은 가장 강력한 모델과 내부 위험평가팀에 준하는 정보에 접근한다. 모델 가중치 유출, 통제 상실로 인한 인명 피해, 모델이 격리 장치를 벗어나 외부 시스템에 접근하는 격리 실패 같은 중대 안전사고는 15일 안에, 사람이 다칠 급박한 위험이 있으면 24시간 안에 보고한다. 보안 점검 항목에는 레드팀 훈련과 함께 증류 공격 감시가 들어갔다. 위반하면 100만 달러와 세계 연 매출의 일정 비율 가운데 큰 금액을 상한으로 민사 벌금을 물리는데, 비율 칸은 아직 비어 있다.

논쟁의 한가운데에는 열거 위험이라는 정의가 있다. 단일 사고에서 50명 넘는 사망·중상이나 10억 달러 넘는 재산 피해에 모델이 실질적으로 기여할 위험으로, 생물무기 제작 지원, 개발사 통제 회피, 공격적 사이버 작전, 이 셋을 크게 앞당기는 AI 자동 연구개발 네 가지로 한정했다. 상무부가 모델을 멈추려면 상무부 장관이 위임 없이 서명한 서면 판단과 독립 평가를 붙여 워싱턴DC 연방지방법원에 차단 명령을 신청해야 한다. 법원은 급박한 열거 위험이 있고, 명령이 꼭 필요하며, 덜 제한적인 수단이 없고, 범위가 최소한이라는 네 가지를 증거 우위로 확인해야 하고, 상무부 판단을 존중하지 않고 처음부터 다시 따진다. 명령은 45일이 지나면 저절로 끝나고 45일씩 연장할 수 있다. 개발사 의견을 듣기 전에 내리는 긴급 명령은 7일이 한도이고 같은 모델과 같은 위험에 한 번만 쓸 수 있다. 명령으로 모델 가중치나 학습 데이터를 지우게 할 수도 없다.

비판은 바로 이 문턱을 겨눴다. 인코드의 법률고문 네이선 캘빈은 X에 "이 법안을 읽으며 여러 대목에서 본능적인 분노를 느꼈다"며 "통과되면 현행법보다 파국적 위험에 덜 보호받게 될 것"이라고 썼다. 그는 법원이 차단 명령이 개발사와 이용자에게 끼칠 피해는 따지도록 명시하면서 반대 방향의 고려는 두지 않았다고 지적했다. 이 글은 11만9000회 넘게 조회됐다. 보도에 따르면 AI 안전 진영은 이 초안이 오버놀티·트러헌 의원의 FRONTIER 법안보다 약하고, 평가 기관에 자격 기준이 없어 가장 덜 번거로운 감사를 가장 싸게 파는 경쟁이 벌어질 수 있다고 비판했다.

두 번째 쟁점은 주법 선점이다. 14조는 공개, 제3자 평가, 사고 보고 세 영역에서 주 정부가 AI 개발사에 의무를 지우는 법을 새로 만들거나 유지·집행하지 못하게 하며, 이미 시행 중인 법에도 적용된다. 보도에 따르면 캘리포니아의 SB 53과 뉴욕의 RAISE법 같은 프런티어 AI 주법이 여기에 걸린다. 주가 급박한 위험을 이유로 모델을 멈추는 권한도 막았는데, 이 조항은 연방 차단 명령을 담은 12조가 제정될 때만 효력이 생긴다. 아동 보호와 내부고발자 보호, 불법행위 책임을 묻는 주의 보통법은 예외로 남겼고 모호하면 주 권한 쪽으로 해석하라고 적었다. 핵심 연방 의무가 법원에서 무효가 되면 선점도 함께 사라지는 불가분 조항도 붙었다.

시미노는 비판을 네 갈래로 나눠 답했다. 그에 따르면 초안은 앤스로픽의 첨단 AI 프레임워크를 법률 문장으로 옮겨 소수 의원실과 공유한 것이고, 선점 문구는 독립 평가 기관 기준과 연구소의 모델 중단 역량 규제에서 주의 역할이 더 분명해지도록 고친다. 위험 기준에 대해서는 "초안의 기준은 캘리포니아 법의 기존 기준에서 그대로 가져왔다"며 이 기준이 기업의 책임을 면제해 주지는 않는다고 밝혔다. 국가 기준이 최대한 강해지도록 기준을 다시 따져 볼 때라는 점도 인정했다. 그는 독립 평가 기관 요건과 평가 기관 쇼핑을 막는 방안, 위험이 커질 때 정부가 업계 전체의 프런티어 개발 속도를 조절하는 정책을 앞으로 내놓겠다고 덧붙였다. 메탈은 다리오 아모데이가 AI 속도 조절 에세이를 발표했다고 보도한 바 있으며, 시미노는 그 에세이의 생각이 아직 법안 문장으로 옮기기에는 너무 새롭다고 썼다.

경쟁사는 이 틈을 파고들었다. 보도에 따르면 크리스 리헤인 오픈AI 최고글로벌업무책임자는 10월 19일 글에서 "어느 한 회사도(오픈AI를 포함해) 경제와 사회, 국가 안보에 이토록 큰 영향을 미치는 기술의 규칙을 혼자 써서는 안 된다"고 적었다. 메탈은 샘 올트먼이 앤스로픽과의 규제 세계관 차이를 강조했다고 보도한 바 있다. 초안은 아직 의회에 정식 발의되지 않았고 19일 오후 기준 발의 의원도 없다.

법률가의 눈으로 보면 이 초안의 무게중심은 공개 의무가 아니라 절차에 있다. 정부가 모델을 멈추려면 장관의 직접 서명, 독립 평가, 증거 우위, 법원의 전면 재심사, 45일 자동 만료를 모두 통과해야 하고, 그동안 주 정부의 같은 권한은 닫힌다. 시미노가 약속한 선점 문구 수정과 평가 기관 요건이 이 절차를 얼마나 바꾸는지가, 안전을 앞세워 온 회사의 법안이 가장 강력한 안이라는 주장의 무게를 정한다.