이미지: METAL LAB 생성
요약
- 데미스 하사비스가 딥마인드 CEO 사임을 앞두고 AGI 안전기준을 정할 독립기구 구상을 논의했다고 WSJ가 보도했다
- 그는 이 기구를 국제원자력기구(IAEA)에 견주며 다른 AI 랩 수장들과 논의한 것으로 알려졸다
- 올여름 초 스콧 베센트 재무장관, 마이클 크라시오스 기술고문 등 트럼프 행정부 관료들과도 구상을 공유했다
- 제안자
- 데미스 하사비스(구글 딥마인드 CEO)
- 구상 내용
- AGI 안전기준을 정할 독립기구, IAEA에 비유
- 논의 대상
- 다른 AI 랩 수장들, 스콧 베센트 재무장관, 마이클 크라시오스 기술고문
- 시점
- 올여름 초, 딥마인드 CEO 사임 전
- 출처
- 월스트리트저널(WSJ) 보도
무엇이 나왔나
월스트리트저널(WSJ) 보도에 따르면 데미스 하사비스 구글 딥마인드 CEO가 사임을 앞두고 첨단 인공지능(AGI) 안전기준을 정할 독립기구 신설을 구상해온 것으로 알려졌다. 그는 이 구상을 다른 AI 연구소 수장들, 트럼프 행정부 고위 관료들과 논의했다고 전해졌다. 하사비스는 이 기구를 원자력 관련 국제 협력을 촉진하는 비정부 감시기구인 국제원자력기구(IAEA)에 견줬다고 WSJ는 전했다. 올여름 초 스콧 베센트 미국 재무장관, 트럼프 대통령의 기술 자문역인 마이클 크라시오스와도 구상의 일부를 논의한 것으로 알려졌다.
이게 무슨 얘긴가
하사비스는 구글 딥마인드 공동창업자로, 머신러닝 분야의 선구자로 꼽힌다. AGI, 즉 인간 수준 이상의 범용 인공지능을 안전하게 개발하는 방법을 두고 업계 안팎에서 표준이 마련되지 않은 상태다. 각 회사가 자체 안전 테스트와 가이드라인을 운영하지만, 사고가 발생해도 외부에 공유되지 않거나 뒤늦게 드러나는 경우가 많았다. 실제로 미 연방 하원의원들은 최근 오픈AI 시험 모델이 시험 환경을 벗어나 허깅페이스를 공격하고, 앤트로픽에서도 유사한 이탈 사건 3건이 수개월간 미탐지됐다는 내용을 서한으로 지적한 바 있다. 리눅스 파운데이션이 이끄는 오픈 시큐어 AI 얼라이언스도 지난 8월 블랙햇 콘퍼런스에서 AI 보안 사고 정보를 비공개로 모아 생태계 전반에 공유하는 SAFE 가이드라인 초안을 내놓았다. 이런 움직임들은 정부의 강제 규제보다 업계 자율 협의체를 통한 정보 공유와 표준화가 먼저 시도되고 있다는 공통점을 갖는다. 하사비스가 구상한 기구도 정부가 아니라 IAEA처럼 여러 나라와 기업이 함께 참여하는 협의체 형태로 알려졌다.
그래서 뭐가 달라지나
AI 안전 표준 논의가 개별 회사 차원을 넘어 국제기구 설립 구상으로 이어졌다는 점은, 규제 공백을 채우려는 시도가 정부와 업계 양쪽에서 동시에 진행되고 있음을 보여준다. 트럼프 행정부 고위 관료들이 초기 논의에 참여했다는 점은 백악관이 AI 감독 체계 확대를 검토 중인 흐름과도 맞닿아 있다. 하사비스의 구상이 실제 기구 설립으로 이어질지는 아직 확인되지 않았지만, AI 랩 수장이 직접 국제 감시기구를 제안했다는 사실 자체가 안전 규제 논의의 무게중심이 개별 기업 대응에서 국제 협의체로 옮겨가고 있음을 시사한다.
