샘 올트먼, 앤스로픽과 규제 세계관 차이 강조

샘 올트먼 오픈AI 최고경영자가 AI 규제를 두고 앤스로픽과 근본적인 세계관 차이가 남아 있다고 강조했다. 올트먼은 미국의 한 정치 전문 매체가 10월 5일(현지시간) 창간한 기술 뉴스레터·팟캐스트의 첫 호 단독 인터뷰에서 AI의 혜택을 위해 일부 위험은 받아들여야 하고 기술은 대중이 폭넓게 쓸 수 있어야 한다고 주장했다. 두 회사의 정책 거리가 최근 몇 달 사이 좁혀진 가운데 나온 발언이라, 올트먼이 수렴 속에서도 선을 긋는 데 공을 들였다는 점이 눈에 띈다.

올트먼은 앤스로픽과의 차이를 묻는 질문에 "간극이 크다고 본다"고 답했다. 다리오 아모데이 앤스로픽 최고경영자와 구체적으로 어디서 갈리느냐는 물음에는 "우리는 이 기술의 혜택과 사람들이 주체성을 갖는 것을 위해 세상이 일부 나쁜 일이 일어나는 것을 받아들여야 한다고 믿는다"고 말했다. 그는 "대형 해킹도, 기술 오용도, 사기도, 앞으로 벌어질 다른 나쁜 일도 전혀 없게 하겠다는 거래는 받아들이지 않겠다"며 "사람들이 나쁜 일보다 몇 자릿수는 더 많은 좋은 일을 해낼 것이라고 생각하기 때문"이라고 밝혔다.

올트먼은 반대편 논리도 직접 옮겼다. 그는 "동의하지는 않지만, 이 기술이 너무 강력하고 위험해져서 샌프란시스코의 연구소 하나가 그것을 쥐고 나쁜 일이 일어나지 않게 하면서 혜택을 나눠 줘야 한다고 생각하는 사람들의 관점은 이해한다"고 말했다. 그러고는 그런 방식을 "전혀 받아들일 수 없는 거래"라고 부르며 오픈AI가 지지하는 가벼운 규제 기조와 맞지 않는다고 했다. 보도에 따르면 이 발언은 도널드 트럼프 대통령과 가까운 기술 자문가들이 앤스로픽을 겨냥해 써 온 규제 포획 비판을 끌어온 것이다.

다만 올트먼이 모든 위험을 감수하자고 한 것은 아니다. 그는 이후 AI에 대한 심각한 통제 상실을 포함한 정말 파국적인 위험은 받아들이지 않는다고 덧붙였다. 보도에 따르면 올트먼은 앞선 다른 인터뷰에서도 이번 10년 안에 AI가 인류를 멸망시킬 위험이 10%라면 받아들일 수 없다고 했고, "어떤 연구소도 정렬 문제를 풀지 못했다고 믿는다"고 말한 바 있다.

정책의 실제 거리는 좁혀져 왔다. 보도에 따르면 앤스로픽은 오랫동안 업계에서 가장 강한 AI 규제 지지자로 여겨졌고, 오픈AI는 최근까지 더 가벼운 접근을 선호했다. 그러나 오픈AI는 자사 모델이 얽힌 해킹 사건과 모델의 일탈 행동에 대응하면서 더 강한 규칙을 지지하는 쪽으로 움직였다. 올트먼은 지난달 가장 앞선 AI 모델의 개발 속도를 늦추자는 아모데이의 제안에 동의했고, 오픈AI는 앤스로픽을 따라 이전보다 엄격한 안전 요건을 담은 새 주법들을 지지했다. 오픈AI 로비스트들은 최고 AI 기업에 외부 안전 평가자를 상주시키도록 하는 미 하원의 초당적 법안에도 지지를 표했다. 메탈은 아모데이가 AI 개발 속도 조절과 외부 평가자 상주를 제안한 에세이와 올트먼이 반독점 면제 없이 안전 조치를 하겠다고 밝힌 성명을 보도한 바 있다.

앤스로픽은 반박했다. 앤스로픽 대변인은 회사의 규제 제안이 프런티어 모델에만 적용된다고 밝히고, 아모데이가 지난 8월 한 투자 운용역과 소셜미디어에서 나눈 대화를 근거로 들었다. 당시 아모데이는 "앤스로픽은 늘 매우 신중하게 정책을 제안해 왔다"며 "프런티어 AI 기업에는 불리하게(속도를 늦추게) 하고 작은 경쟁자에게는 유리하게 하는 제안을 만들려고 무척 애쓴다"고 썼다.

두 최고경영자의 거리는 규제 밖에서도 드러났다. 올트먼은 10월 3일 X에 "사람들이 AI 모델에 종교적 힘을 부여하거나 인간의 판단을 내맡기려 하는 데 매우 불편함을 느끼며, 이것이 실제 안전 문제라고 생각한다"고 썼다. 메탈이 확인한 이 게시물은 조회 수 660만 회, 좋아요 2만8천 회를 넘겼다. 보도에 따르면 이 글은 AI의 영혼을 다뤄 온 앤스로픽의 작업을 우회적으로 겨냥한 것으로 읽혔다.

인터뷰는 이 밖에도 트럼프 대통령이 주요 기술 기업과 맺은 새 AI 협약과 AI를 초지능으로 바꿔 부르려는 시도, 오픈AI 모델이 저지른 자율 해킹 사건과 회사의 법적 책임 문제, 미국 정치로 흘러드는 AI 업계 자금, 오픈AI 내부의 효과적 이타주의자 영향력을 다뤘다. 올트먼은 AI 정책으로 가장 인상 깊은 세계 지도자로 에마뉘엘 마크롱 프랑스 대통령을 꼽으며 "이 기술이 어디로 가고 어떤 모습이어야 하는지에 대해 오랫동안 매우 사려 깊었다"고 평가했다. 마크롱은 2027년 4월 대선에 출마할 수 없고, 다음 달 파리평화포럼을 AI 안전과 아동·청소년이 겪는 기술 위험에 맞춰 연다.

테크 법률의 눈으로 보면 이번 인터뷰는 규제 조문보다 책임 배분의 철학을 둘러싼 다툼이다. 두 회사는 속도 조절과 외부 평가자, 주 단위 안전 법안이라는 구체적 장치에서는 이미 같은 쪽에 서 있다. 갈리는 곳은 그 장치가 막지 못하는 해킹·오용·사기 같은 잔여 위험을 사회가 얼마나 떠안을지, 그리고 강한 규제가 소수 연구소의 지위를 굳히는지에 대한 판단이다. 올트먼은 파국적 위험과 일상적 피해 사이에 선을 그었고, 앤스로픽은 규제 대상을 프런티어 모델로 좁혀 답했다. 자율 해킹 사건의 법적 책임이 인터뷰 의제에 오른 지금, 그 선이 어디에 그어지느냐는 기업 성명이 아니라 입법과 법정에서 정해질 문제가 되고 있다.