앤스로픽·오픈AI·구글, AI 표준기구 논의

메탈이 확인한 그 제안문의 뼈대는 출시 전 사전 검토예요. 회사들이 모델을 내놓기 30일 전에 기구에 먼저 넘겨 검토받되, 처음에는 자발적으로 시작하고 효과가 입증되면 미국 시장에 내놓기 위한 요건으로 굳힌다는 3단계 설계예요. 마지막 단계에서는 기구가 외부에 공개하지 않는 자체 시험 문항을 따로 만들어요. 회사들이 이미 알고 있는 벤치마크에 맞춰 모델을 다듬는 일을 막기 위해서예요.

시험 과목도 적혀 있어요. 사이버보안 취약점과 생물학적 위협 가능성, 그리고 에이전트가 스스로 하는 행동이 국가 안보와 관련된 평가 영역으로 꼽혔어요. 하사비스는 모델이 안전장치를 우회하려 드는지, 기만하는 성향을 보이는지 시험하고 AI 생성물에 워터마크를 넣으며 해석 가능한 추론을 내놓게 하는 것까지 함께 제시했어요. 어떤 모델이 이 문턱을 넘는지는 회사 이름이 아니라 기구가 관리하는 역량 기준이 정해요.

기구의 권한 범위에 대해서는 하사비스 본인이 선을 그었어요. 그는 표준기구가 "평가 규약을 개발하고, 국가 안보와 관련된 영역의 시험을 수행하기 위해 적절한 연방 기관 및 미국 국립연구소들과 협력할 책임을 지게 될 것" 이라고 적었어요. 규제 기관이 아니라 기술 표준을 만드는 조직이라는 뜻이고, 판정의 최종 권한은 정부 쪽에 남겨 둔 셈이에요. 이사회에는 독립 기술 전문가와 오픈소스 진영 대표가 들어가야 한다는 조건도 달렸어요.

왜 지금이냐는 질문에도 그가 먼저 답을 적어 뒀어요. 하사비스는 "지금 우리는 극도로 치열하고 여러 겹으로 얽힌 상업적, 지정학적 경주에 갇혀 있습니다" 라고 진단했어요. 경주에 갇힌 선수들이 심판을 만들자고 모이는 장면인데, 그 심판의 월급은 선수들이 내요. 하사비스도 이 대목을 피하지 않고 기술 인재를 모으고 대규모 시험을 감당하려면 재원이 상당해야 한다고 적었어요.

주말 사이에 이 구상은 비공개 회의실 밖으로 한 발 나왔어요. 사티아 나델라 마이크로소프트 최고경영자는 9월 13일 정렬을 제대로 맞추기 위한 신중한 속도 조절을 환영한다고 밝히고, 자사 MAI 모델에 적용할 행동강령을 하루 뒤 공개해 의견을 받겠다고 했어요. 그는 "초지능을 향한 어떤 시도든, 우리가 만드는 AI가 인류를 돕지 않고 인간의 통제 아래 있지 않다면 추구할 가치가 없다는 핵심 원칙에 뿌리를 두어야 합니다" 라고 적었어요. 거버넌스가 소수의 주체에 통제되어서는 안 되며 생태계와 국가, 학계를 포함한 여러 분야에 걸쳐 폭넓은 대표성을 가져야 한다는 문장도 함께 들어갔어요.

세 회사의 논의가 규제 논쟁의 어느 지점에 서 있는지는 이번 주 다른 사건들과 나란히 놓아야 보여요. 메탈은 다리오 아모데이 앤스로픽 최고경영자가 프런티어 개발의 속도를 조절하고 외부 평가자를 회사 안에 들이자는 에세이를 발표했다고 보도한 바 있어요. 나델라가 환영한 신중한 속도 조절이 바로 그 제안이에요. 공개 성명과 비공개 실무 회의가 같은 방향을 가리키고 있는 거예요.

자율이 어디까지 버티는지는 이미 한 번 시험대에 올랐어요. 메탈은 앤스로픽이 9월 1일 내놓은 Claude Mythos 5.1 을 영국 AI안전연구소의 출시 전 평가에 내지 않았다고 보도한 바 있어요. 평가 기관에 모델을 넘기는 일이 자발적인 동안에는 넘기지 않는 선택도 늘 같이 존재해요. 하사비스가 3단계 설계의 마지막을 의무화로 잡아 둔 이유가 여기에 있어요.

같이 모여 속도를 늦추는 일 자체가 법적으로 안전하지 않다는 문제도 남아 있어요. 메탈은 오픈AI가 경쟁사들과 함께 개발 속도를 늦추는 행위가 담합에 해당하는지를 두고 의회에 판단을 요청했다고 보도한 바 있어요. 안전 기준을 함께 세우는 기구는 그 질문의 한복판에 서게 돼요. 경쟁사끼리 같은 기준에 합의하는 순간, 그 기준은 시장에 들어오려는 다른 회사에게는 문턱이 되니까요.

전문가들이 지적한 위험도 정확히 그 지점이에요. 캐스케이드인사이츠 공동창업자 숀 캠벨은 이런 기구가 규제 포획으로 흐를 수 있다고 경고했고, 스즈랩스 최고경영자 마이클 벨은 새로운 관료 조직을 하나 더 만드는 것이 최선인지 물었어요. 정보기술혁신재단의 미셸 로페스 말도나도는 기구를 새로 세우는 대신 기존 표준 기관의 역량을 키우는 쪽을 권했어요. 심판을 선수가 세울 때 나오는 의심은 늘 같아요.

지금 분명한 것은 순서예요. 의회는 나서지 않겠다고 했고 백악관은 속도를 늦출 이유가 없다고 했으며, 그 빈자리를 회사들이 7월부터 자기들끼리 채워 왔어요. 하사비스의 설계도는 공개돼 있고 나델라의 행동강령은 의견 수렴에 부쳐졌으며 세 회사의 실무 회의는 아직 결과를 내놓지 않았어요. AI 산업의 규칙은 지금 국회가 아니라 회의실에서 쓰이고 있어요.