이미지: @cohere (X) 영상 갈무리
요약
- 에이단 고메즈 코히어 최고경영자가 9월 14일 블룸버그 TV 생방송에서 AI 실존 위험 논쟁이 공상과학 쪽으로 너무 멀리 갔다고 말했어요.
- 허깅페이스 해킹 사건은 안전하지 않은 샌드박스에서 시킨 일을 한 것이라 놀랍지 않고, 확대 해석이 너무 멀리 갔다고 주장했어요.
- 안전 기준은 높이되 큰 회사들만 산업 전체의 규칙을 정해선 안 된다며 앞서 낸 카르텔 반박 에세이의 입장을 되풀이했어요.
- 발언
- 2026년 9월 14일 · 블룸버그 TV 생방송 · 진행 에드 러들로
- 발언자
- 에이단 고메즈 코히어 최고경영자
- 클립
- 코히어 X 계정 · 1분 44초 · 전체 인터뷰 5분 14초 중 발췌
- 조회
- 메탈 확인 시점 조회수 1만1천 회 이상
- 핵심 주장
- 실존 위험 논쟁은 공상과학과 확대 해석에 기댄다 · 터미네이터 시나리오는 공론장에 들어올 단계가 아니다
- 사례
- 허깅페이스 해킹 사건 · 안전하지 않은 샌드박스 안 해킹 과제 수행
- 카르텔
- 큰 회사들만 규칙을 정하는 건 큰 실수이자 경고 신호 · 안전 기준은 높여야
- 에세이
- 코히어 블로그 How We're Getting AI Risk Wrong · 데이터 보호 · 편향과 잘못된 정보 · 사람 판단 고리
코히어의 에이단 고메즈 최고경영자가 9월 14일 블룸버그 TV 생방송에서 AI 실존 위험 논쟁이 공상과학 쪽으로 너무 멀리 가 있다고 말했어요. 코히어는 같은 날 이 발언이 담긴 1분 44초짜리 클립을 회사 X 계정에 올렸고, 메탈이 확인한 시점에 조회수는 1만1천 회를 넘겼어요. 진행자가 바로 지난주에 그 이야기가 뉴스였다고 되묻는 자리에서, 프론티어 모델을 만드는 회사의 대표가 카메라 앞에서 논쟁 자체를 비판한 장면이에요.
발언은 길지 않지만 단정적이에요. 고메즈는 "개인적으로 실존 위험 논쟁은 공상과학 쪽으로 너무 멀리 가 있고, 그런 이야기들과 많은 확대 해석에 기대고 있다고 생각합니다" 라고 말했어요. 이어서 "AI가 세상을 장악한다는 생각, 터미네이터 같은 시나리오는 이 단계에서 공론장에 들어와서는 안 된다고 봅니다. 우리는 그 근처에도 가 있지 않고, 앞으로도 그런 일을 내다보지 않습니다" 라고 덧붙였어요. 위험이 작다는 말이 아니라 그 위험을 이야기하는 방식이 틀렸다는 말이에요.
그가 든 사례는 허깅페이스 해킹 사건이에요. 고메즈에 따르면 헤드라인을 뒤덮은 그 사건은 실제로 들여다보면 안전하지 않은 샌드박스 안에 에이전트를 넣고 해킹이라는 과제를 맡긴 것이었고, 에이전트는 시킨 일을 수행해 빠져나왔어요. 그는 "그리 놀랍지 않아요" 라고 했고, 문제는 그 사건에서 끌어낸 확대 해석과 대중에게 전달된 방식이 너무 멀리 갔다는 데 있다고 말했어요. 메탈은 오픈AI의 미공개 모델이 허깅페이스에 침투한 사건을 보도한 바 있으며, 오픈AI가 그 뒤 모니터링과 격리를 강화했다고도 보도한 바 있어요.
같은 인터뷰에서 고메즈는 큰 회사들이 함께 안전 기준을 정하자는 제안도 다시 밀어냈어요. 진행자 에드 러들로가 위험을 먼저 볼 수 있는 회사들이 스스로 더 높은 안전 기준을 세워야 하지 않느냐고 묻자, 고메즈는 "물론 더 높은 안전 기준을 세워야 합니다. 하지만 그 회사들만이 분야나 산업 전체의 규칙을 정할 위치에 선다는 생각은 큰 실수이고 꽤 분명한 경고 신호라고 봅니다" 라고 답했어요. AI를 만드는 회사들은 당연히 자리를 가져야 하지만 혼자서 모두를 대신해 결정해서는 안 된다는 말이 뒤따랐어요. 메탈은 고메즈가 앞서 에세이로 AI 규칙을 정하는 카르텔을 반박했다고 보도한 바 있어요.
인터뷰를 내보낸 방송사의 소개문에 따르면 고메즈는 가장 큰 프론티어 연구소들이 안전 기준을 조율하는 방식이 지배적인 회사들의 자리를 굳히고 카르텔에 가까워질 수 있다고 경고하면서도, 더 강한 안전장치와 독립적인 시험, 더 큰 투명성이 필요하다는 입장은 유지했어요. 규칙은 앤스로픽이나 오픈AI 같은 회사만이 아니라 더 넓은 이해관계자가 만들어야 한다는 게 그의 주장이에요. 전체 인터뷰는 5분 14초 분량이고, 코히어가 올린 클립은 그중 카르텔과 실존 위험 부분을 잘라 낸 1분 44초예요.
이 입장은 이번에 처음 나온 게 아니에요. 고메즈는 코히어 블로그에 올린 에세이 How We're Getting AI Risk Wrong 에서 AI에 대한 실존적 공포를 부추기는 데 시간과 자원을 쓰는 것이 주의를 흩뜨리는 일이었고 누군가는 편리한 주의 분산이라고 부를 수도 있다고 적었어요. 몇몇 경영자는 자기 회사의 기술 역량을 강조하려고 특정 위험을 과장한 것처럼 보이기까지 한다는 문장도 같은 글에 있어요. 그가 진짜 위험으로 꼽은 세 가지는 민감한 데이터 보호, 편향과 잘못된 정보 완화, 그리고 의료와 법률 같은 고위험 영역에서 사람을 판단 고리 안에 두는 일이에요. 메탈이 확인한 이 글은 종말 시나리오가 가장 심각한 위험이라고 진심으로 믿는 업계 사람들에게 정중히 동의하지 않으면서도 의견 차이를 환영한다는 문장으로 반대편에 문을 열어 두고 있어요.
사회학의 눈으로 보면 이 발언은 위험의 크기가 아니라 위험을 말하는 언어를 둘러싼 싸움이에요. 어떤 위험이 공론장에 들어올 자격이 있는지를 정하는 일 자체가 힘이고, 고메즈는 실존 위험이라는 틀을 공상과학이라는 장르로 분류해 논의 바깥으로 밀어내려 해요. 반대편은 같은 사건을 경고의 증거로 읽어요. 허깅페이스 사건 하나가 한쪽에서는 샌드박스 안의 과제 수행으로, 다른 쪽에서는 탈출 사례로 불리는 이유가 거기에 있어요. 같은 화재 사진을 놓고 한쪽은 소방 훈련이라 부르고 다른 쪽은 방화라 부르는 것과 비슷해서, 사회가 위험을 어떻게 인식하느냐는 사건 자체보다 그 사건을 어떤 이야기 안에 놓느냐에 좌우돼요. 양쪽 모두 그 점을 정확히 알고 있어요.
발언이 놓인 자리도 같이 봐야 해요. 메탈은 앤스로픽의 다리오 아모데이 최고경영자가 지난주 AI 속도 조절 에세이를 발표했다고 보도한 바 있고, 트럼프 진영이 그 속도 조절 요구를 거부했다고도 보도한 바 있어요. 속도를 늦추자는 쪽과 늦출 필요가 없다는 쪽 사이에서 고메즈는 세 번째 자리를 잡았어요. 안전 기준은 높이되 규칙은 여럿이 만들고, 종말 서사는 공론장 밖에 두자는 자리예요.
고메즈가 그은 선은 분명해요. 프론티어 모델을 파는 회사의 대표가 실존 위험 논쟁을 장르의 문제로 돌린 이 발언은 위험을 정의할 권한이 누구에게 있느냐는 질문을 정면으로 건드려요. AI 위험 논쟁은 이제 위험의 크기가 아니라 위험을 말할 자격을 두고 벌어지고 있어요.
댓글