샘 올트먼, 반독점 면제 없이 안전 조치 선언

성명은 책임의 문장으로 시작해요. 그는 "세계는 점점 더 유능한 AI를 개발하는 미국 기업들이 책임 있게 행동할 것이라는 확신을 가질 자격이 있습니다. 특히 발전 궤적이 가팔라진 지금은 더욱 그렇습니다. 모든 프런티어 연구소가 이를 해내야 하고, 그러지 못한다면 우리 중 누구도 출근할 이유가 없습니다"라고 적었어요. 이어 "우리는 프런티어 AI에 일관된 안전 요건을 정하는 연방 프레임워크를 환영합니다. 하지만 이 확신을 주는 일을 시작하기 위해 반독점 면제나 입법을 기다려야 한다고는 생각하지 않습니다"라고 썼어요. 프런티어 위험을 관리하는 일관된 규칙은 좋은 생각이라며 독립 감사인 같은 아이디어에 기대가 크다는 말도 붙였어요.

반독점이라는 낱말이 성명에 들어간 데는 배경이 있어요. 메탈은 오픈AI가 최근 몇 주 동안 업계가 함께 개발 속도를 줄이면 반독점법에 걸리는지를 의회에 묻고 있다고 보도한 바 있어요. 백악관 AI·암호화폐 책임자 데이비드 삭스는 그 움직임을 두고 앤스로픽과 오픈AI가 프런티어 지능을 복점하고 있다며 "누군가의 허락이 필요한 척 그만하십시오"라고 X에 적었고, 카르텔을 만들기 위해 반독점법을 정지시켜야 하는 척도 그만하라고 했어요. 메탈은 코히어의 에이든 고메즈 CEO가 같은 논리로 규칙 카르텔을 반박한 에세이도 다뤘고요. 올트먼의 이번 문장은 그 공격에 대한 답이에요. 면제를 기다리지 않겠다는 말은 경쟁사와 손잡지 않고도 오픈AI 혼자 자기 속도를 늦출 수 있다는 뜻이에요.

성명은 기존 장치의 한계를 회사 스스로 인정하는 데서 출발해요. 올트먼에 따르면 오픈AI와 같은 회사들이 몇 해 전 만든 대비 프레임워크와 책임 있는 확장 정책은 그 시점에는 좋았지만, 완성된 모델을 배포하는 순간에 초점을 맞췄지 개발 과정에서 벌어지는 일은 다루지 않았어요. 그래서 안전한 개발과 평가로 초점이 옮겨가는 지금은 새 도구가 필요하다는 거예요. 그가 든 예가 안전 사례예요. 오픈AI는 이제 능력을 크게 높일 것으로 예상되는 프런티어 강화학습 실행에 앞서 명시적인 안전 사례를 미리 작성하고, 모델 출시 전에 오래 해 오던 안전 작업은 그대로 유지한다고 밝혔어요. 비행기로 치면 이륙한 뒤에 점검표를 채우는 게 아니라, 활주로에 들어서기 전에 왜 이 비행이 안전한지 문서로 먼저 입증하는 순서예요. 그는 다른 회사들도 이 접근을 배우고 자기 방식을 제안하기를 바란다며, 오정렬과 모니터링과 안전에 대한 공통 기준이 더 나은 결과를 낳을 것이라고 적었어요.

속도 조절이 무엇인지도 그가 직접 선을 그었어요. "우리가 속도 조절을 말할 때 멈춤을 뜻하는 게 아닙니다. 발전은 빨랐고 앞으로도 그럴 겁니다. 하지만 그렇지 않았을 때보다는 느려야 합니다. 안전 사례와 모니터링 같은 개입에는 상당한 비용이 듭니다"라고 적었어요. 그러면서 "속도 조절은 그 비용을 치를 가치가 충분합니다. 어떤 미국 내 경쟁 압력도 무모함을 정당화하거나 능력이 정렬과 모니터링을 앞지르게 놔둘 이유가 되지 못합니다"라고 썼어요. 정부의 도움이 필요한 자리는 국제 조율이라고 못 박고, 그 전에 스스로 할 수 있는 일부터 하겠다고 했어요.

13분 뒤 그는 이 성명을 인용해 두 번째 글을 올렸어요. AI 발전이 아주 나쁘게 흘러갈 수 있는 길이 두 가지라는 내용이에요. 첫째는 미래의 통제권을 AI에 넘기는 것이고, 그는 이를 용납할 수 없다며 "우리는 거리낌 없이 인류 팀에 서 있으며, AI는 언제나 사람을 위해 봉사해야 합니다"라고 썼어요. 그러려면 정렬과 안전 기술이 모델 능력의 발전보다 앞서 있도록 보장하는 방법이 필요하다고 했어요. 둘째는 권력이 지나치게 한곳에 몰리는 것으로, 극도로 강력한 AI를 한 사람이나 한 회사가 자기 세계관을 모두에게 강요하는 데 쓰면 결과는 극히 디스토피아적일 수 있다고 적었어요. 한 나라가 지나친 힘을 갖는 것도, 한 연구소가 그렇게 되는 것도 같은 위험이라며 이 둘을 피하려면 좁은 가운데 길을 걸어야 한다고 했어요. 이 글은 같은 시각 조회 198만 회, 좋아요 1만 3천 건을 기록했어요.

이번 성명은 사흘 동안 이어진 흐름의 세 번째 장이에요. 메탈은 다리오 아모데이 앤스로픽 CEO가 9월 12일 프런티어의 속도를 조절해야 한다는 에세이를 내고 외부 평가자에게 직원 수준 접근권을 주겠다고 한 것을 보도한 바 있어요. 올트먼은 같은 날 X에 "다리오의 말에 동의합니다. 우리는 프런티어의 속도를 조절해야 합니다. 이건 최근 몇 주 동안 오픈AI 안에서 나눈 논의의 주된 주제였습니다"라고 답하고, 직원 수준 접근권을 가진 독립 평가자를 두는 약속을 오픈AI도 똑같이 하겠다고 했어요. 메탈이 확인한 이 답글은 14일 오후 9시 기준 조회 1,611만 회, 좋아요 6만 6천 건으로 이번 주말 올트먼이 올린 글 가운데 가장 멀리 퍼졌어요. 일론 머스크는 "다리오가 옳다"는 세 단어로 가세했어요.

워싱턴의 답은 달랐어요. 보도에 따르면 도널드 트럼프 대통령은 13일 기자들에게 "우리는 AI에서 중국을 앞서고 있습니다. 우리는 세계에서 가장 정교한 나라이고, 솔직히 그 상태를 유지하고 싶습니다. AI에서 이기는 쪽이 이기니까요"라고 말하고, 가드레일은 둘 수 있지만 일어나지 않을 일을 꺼내 드는 부정적인 세력이 많다고 했어요. 마이크 존슨 하원의장은 같은 날 방송에서 세 CEO가 사석에서는 가드레일이 필요하다고 말하면서도 어떤 가드레일이어야 하는지에는 의견이 달랐다며 "그들 스스로도 오늘 시점에 답을 갖고 있지 않습니다"라고 말했고, 의회 휴회를 취소할 생각은 없다고 했어요. 올트먼이 입법을 기다리지 않겠다고 쓴 건 이 발언들이 나온 지 하루도 지나지 않아서예요.

테크 변호사의 눈으로 보면 이 성명의 핵심은 규제 요구가 아니라 자기 구속이에요. 반독점 면제를 기다리지 않겠다는 말은 경쟁사와 합의하지 않고 오픈AI 혼자 속도를 정하겠다는 뜻이라, 카르텔 논란을 피해 가는 가장 안전한 법적 위치예요. 대신 안전 사례를 훈련 전에 문서로 남기겠다는 약속은 나중에 사고가 났을 때 회사가 무엇을 알았고 무엇을 했는지 묻는 기준이 돼요. 안전 사례는 회사가 스스로 쓰는 서류라 누가 검증하느냐가 남는데, 올트먼도 그 답으로 독립 감사인과 업계 공통 기준을 들었지만 어느 쪽도 아직 이름과 일정이 없어요. 중국 쪽 반응은 그 공백을 파고들었어요. 보도에 따르면 중국 외교부는 14일 정례 브리핑에서 AI 위험 경고를 두고 공포 조장이라고 했고, 관영 매체는 아모데이의 제안이 냉전식 각본이라고 적었어요.

오픈AI는 이번 성명으로 스스로 두 가지를 걸었어요. 능력을 크게 키우는 훈련은 안전 사례를 먼저 쓴 뒤에 돌리고, 그 결과를 독립 평가자와 감사인에게 보이겠다는 것이에요. 법이 먼저 오기를 기다리지 않겠다고 적은 회사는 이제 법 없이도 지킬 수 있다는 걸 다음 훈련에서 증명해야 해요.