오픈AI, 프런티어 AI 국제 표준 제안 발표

오픈AI가 9월 21일 프런티어 AI의 안전과 보안을 위한 국제 기술 표준을 미국이 앞장서 만들어야 한다고 발표했어요. 회사는 발표문에서 "미국이 세계 각국과 함께 재귀적 자기개선을 포함한 프런티어 AI의 국제 기술 표준을 만드는 노력을 이끌어야 한다고 믿습니다" 라고 적었어요. 제안의 뼈대는 둘이에요. 각국 표준과 국제 표준을 잇는 장치, 그리고 공통 측정과 사건 보고 규약이에요.

표준을 꺼낸 이유는 재귀적 자기개선이에요. AI가 다음 세대 AI를 만드는 일을 점점 더 맡으면 사람이 관여한 상태에서도 그 과정이 스스로를 밀어 올릴 수 있고, 자동화가 깊어질수록 진전 속도가 빠르게 빨라질 수 있다고 회사는 설명했어요. 회사는 완전 자율 재귀적 자기개선이 "오늘 일어나고 있지 않으며, 안전하게 할 수 있기 전에는 추구해서는 안 됩니다" 라고 적었어요. 적절한 주의 없이 밀어붙이면 사람이 더는 이해하지 못하는 연구 과정을 감독하지 못한 채 AI 개발의 실질적 통제를 잃을 수 있다는 경고가 같은 문단에 붙어 있어요.

회사는 자신들이 공개한 허깅페이스 사건이 재귀적 자기개선의 직접 결과는 아니지만 견고한 안전장치와 정렬 없이는 훨씬 심각해질 수 있는 위험의 예고편이라고 적었어요. 발표문은 샘 올트먼 최고경영자와 야쿠프 파호츠키가 최근 정리한 세 가지 목표를 맨 앞에 놓았어요. 자동화된 AI 연구자를 만들어 정렬 문제를 함께 풀고 사람이 자기개선 고리 안에 남을 방법을 찾는 것, 과학 진보와 경제 성장의 혜택을 전하는 것, 개인용 AGI로 각자를 강하게 만드는 것이에요. 회사는 AI가 자사 연구를 가속하고 있고 나비에스토크스 밀레니엄 문제를 포함한 수학에서 진전이 나왔다고 밝혔어요.

국제 표준이 필요한 이유로 회사가 든 문제는 셋이에요. 나라마다 평가와 보고 요건, 사건 정의가 어긋나면 증거를 견주기도 국경을 넘는 위험에 대응하기도 어려워지는 파편화, 각 나라가 따로 움직이면 아무도 원하지 않는 결과가 나오는 집단행동 문제, 그리고 프런티어 개발과 전문성이 세계에 고르게 퍼져 있지 않은 역량 불균등이에요. 발표문은 이 문제들이 공개 모델과 폐쇄 모델 모두에 해당한다고 적었어요.

첫 번째 장치는 이미 있는 것을 쓰자는 제안이에요. 회사는 호주와 캐나다, 독일, 프랑스, 케냐, 일본, 한국, 싱가포르, 인도, 영국에 세워진 AI 안전연구소 네트워크를 활용해 미국 AI 표준혁신센터와 각국 산업 단체를 통해 표준을 만들자고 적었어요. 초점은 역량 벤치마크로 가려낸 프런티어 모델과 개발자, 그리고 재귀적 자기개선을 포함한 자동화된 AI 연구의 편익과 위험 관리 두 가지예요. 2024년 AI 표준혁신센터가 만든 고급 AI 측정·평가·과학 국제 네트워크가 그 출발점으로 지목됐어요.

표준이 무엇이 아닌지도 발표문에 못박혀 있어요. 여기서 만드는 기술 표준은 라이선스가 아니고 출시 전 의무 심사도 아니며 AI 모델 승인 요건도 아니에요. 각국 정부가 그 표준을 자국 법체계에 넣을지, 어떻게 넣을지를 스스로 정해요. 회사는 표준이 특정 기업이나 국가, 사업 모델에 유리하게 설계돼서는 안 되고 신규 진입자나 공개 가중치 개발자의 경쟁을 어렵게 만들어서도 안 된다고 적었어요.

회사가 든 선례는 항공과 금융 안정성이에요. 각국이 국가 권한을 내놓지 않으면서도 공통 기술 표준과 신뢰할 수 있는 협력 통로를 만들어 온 분야라는 이유예요. 발표문은 국제표준화기구와 프런티어 모델 포럼, 에이전틱 AI 파운데이션, 오픈 시큐어 AI 얼라이언스 같은 기존과 신생 표준 단체, 그리고 국제 표준을 실제 AI 평가와 잇는 실무 사양을 만들고 있는 아피아 파운데이션 같은 실행 조직과도 긴밀히 일해야 한다고 적었어요.

두 번째는 재는 방법과 알리는 방법을 맞추자는 제안이에요. 회사가 꼽은 항목은 재귀적 자기개선과 관련된 AI 진전, 그리고 한 기업 안에서 자율적으로 이뤄지는 연구의 양을 평가하는 기준, 어떤 자동화된 연구 과정이 즉시 사람의 검토를 불러야 하는지를 포함한 인간 감독 기준, 공통 심각도 등급과 보고 임계값을 포함한 사건 분류와 추적, 보고, 대응 기준이에요. 회사는 자사가 낸 연구 가속 보고서와 미정렬 보고 프레임워크를 그 초기 기여로 제시했어요. 메탈은 오픈AI가 모델 미정렬 보고 프레임워크를 냈다고 보도한 바 있어요.

발표문은 표준 밖의 장치도 함께 요구했어요. 세계 각국의 중요 인프라 운영자와 정부가 국가안보 우려와 새로 드러난 취약점, 위협, 모범 사례를 나눌 안전한 통신 통로를 만들어야 한다는 대목이에요. 회사는 이 영역에서 미국과 중국의 대화가 긍정적인 진전이 될 것이고 곧 있을 회담이 시의적절하다고 적었어요. 보도에 따르면 샘 올트먼 최고경영자는 9월 23일 유엔 안전보장이사회 회의에 직접 참석해 AI와 국제 안보를 주제로 설명할 예정이에요.

이 제안이 딛고 선 국내 설계도는 따로 있어요. 메탈이 확인한 프런티어 AI의 민주적 거버넌스 문서는 발표문에 걸린 9쪽짜리 PDF이고 6월 2일자예요. 문서는 주 법이 먼저 공통 틀을 다듬고 연방이 그것을 받아 올리는 방식을 역연방주의라고 부르며, 캘리포니아 SB 53과 뉴욕 RAISE 법, 일리노이 SB 315가 이미 핵심 요소에서 합의를 이뤘다고 적었어요. 연방 틀의 최소 요건으로는 심각 위험 평가와 완화, 투명성 보고서, 독립 제3자 감사, 중대 안전사고 보고, 모델 가중치 보안, 내부고발자 보호, 실효성 있는 책임 장치가 나란히 놓였어요.

문서는 미국 AI 표준혁신센터를 프런티어 AI 평가와 표준 개발, 독립 평가 인증, 정부 안팎 조율을 맡는 세계 최고 기관으로 키우라고 요구했어요. 책임자는 상무장관이나 그에 준하는 고위직에 직접 보고하고, CHIPS 사업에 쓰인 것과 비슷한 유연한 채용 권한과 기밀 연산 환경 접근권을 갖춰야 한다고 적었어요. 가장 강한 요구는 가장 뒤에 있어요. 연방 틀이 갖춰지면 같은 프런티어 안전 위험을 규율하려는 주 법은 선점해 하나의 국가 틀로 묶으라는 대목이에요.

변호사 눈으로 보면 이 발표는 두 방향으로 동시에 밀어요. 국제적으로는 승인 권한이 없는 기술 표준을 만들어 각국이 알아서 법에 넣게 하고, 국내적으로는 연방 틀을 세우는 대가로 주 법을 선점하라고 요구해요. 평가는 받되 배포 결정은 개발자가 쥔다는 문장, 기한 안에 평가가 끝나지 않으면 벌 없이 배포할 수 있다는 문장이 그 문서에 함께 적힌 것도 같은 설계예요. 회사가 스스로 적었듯 표준의 명분은 권력의 집중을 피하고 실무적으로 더 나은 결과를 내는 데 있고, 그 표준을 누가 먼저 쓰느냐가 다음 10년의 규칙을 정해요.