오픈AI, 아동 AI 안전 헌장 서명

오픈AI가 11월 12일(미국 시간) 발표문을 내고, 이번 주 파리평화포럼에서 아동 AI 안전 헌장에 서명했으며 아동과 AI의 관계를 연구하는 국제 연구망에 200만 달러를 내겠다고 밝혔다. 헌장의 정식 이름은 「아동을 위한 더 안전한 AI 참여 헌장」이고, 프랑스·스페인·케냐가 이끄는 「AI 시대 아동 권리와 보호를 위한 연합」이 만들었다. 헌장 마지막 쪽에 지지 기업으로 이름을 올린 곳은 앤스로픽, 블랙 포레스트 랩스, 마이크로소프트, 오픈AI 네 곳이다. 서명 기업은 아이가 쓸 수 있는 AI를 배포 전과 배포 뒤 정기적으로 시험하고, 독립 연구자가 그 결과를 회사 허락 없이 공개하는 구조를 받아들였다.

오픈AI는 발표문에서 이번 출연금이 공동 측정 작업에 쓰인다고 설명했다. 연구자가 AI가 아이에게 주는 위험과 기회를 재는 도구를 만들고, 그 결과로 더 안전한 제품과 정책을 뒷받침한다는 것이다. 오픈AI는 연구팀이 결론에 대한 통제권을 갖고, 부정적이거나 결론이 나지 않은 결과까지 공개된다고 밝혔다. 회사는 청소년 AI 안전 입법에 대한 지지도 다시 적었다. 기본값으로 켜지는 연령별 보호 장치, 부모용 도구, 정기적인 위험 평가와 완화, 실질적인 책임 장치가 들어가야 한다는 주장이다. 오픈AI는 유럽연합이 준비하는 EU 아동법 논의에 참여하겠다고 덧붙였다.

같은 자리에서 나온 정치 선언은 규모가 더 크다. 파리평화포럼에 따르면 11월 10일 50개국 이상과 국제기구 7곳, 비정부·자선 단체와 기업 20곳이 「아동 우선 선언」에 서명했다. 서명자들은 건강, 영양, 교육, 보호, 디지털 시대의 심리적 안녕 다섯 분야에 힘을 모아 2045년까지 가시적인 성과를 내기로 했다. 포럼은 이번 아동 정상회의가 1992년 기후 분야의 리우 정상회의 같은 선례를 남기는 것을 목표로 한다고 밝혔다. 같은 발표에서 포럼은 오픈AI와 앤스로픽 같은 AI 개발사와 커먼센스 미디어가 AI와 아동 발달 연구에 모두 800만 유로를 내놓는다고 전했다.

에마뉘엘 마크롱 프랑스 대통령은 포럼 보도자료에서 "오늘 기술 기업, AI 연구소와 함께한 우리의 약속은 분명하다, 어떤 AI도 사전에 시험받고 평가받아 승인되지 않은 채 아이들 손에 쥐어져서는 안 된다"고 말했다. 그는 온라인에서 아이를 지키는 일이 전 세계 과학자들이 확인한 공중보건의 과제가 됐고, 소셜미디어와 AI 모두에 해당한다고 덧붙였다. 필리프 에티엔 파리평화포럼 의장은 "오늘 작업의 결과는 설계 단계부터 아이의 안전을 보장하는 AI를 향한 의미 있는 진전"이라고 밝혔다. 캐서린 러셀 유니세프 사무총장은 "아동에 대한 투자는 도덕적 의무이자 미래를 가르는 선택"이라고 말했다. 연합의 로드맵은 마크롱 대통령이 지난 9월 유엔에서 처음 내놓았다.

헌장은 서문과 공동 원칙, 연구 약속, 부록 두 개로 이뤄진 7쪽 문서다. 공동 원칙은 열 가지다. 설계와 기본값 단계의 안전, 아동의 최선의 이익, 포용, 연령에 맞는 설계, 가족을 포함한 설계, 아동의 실질적 참여, 아동 개인정보 보호, 연령 확인, 아동 성착취물 차단, AI 리터러시가 차례로 적혔다. 연령 확인은 사용자의 자기 신고에만 기대지 않아야 하고, 정확도와 개인정보 보호, 공정성을 외부에서 평가받아야 한다고 못 박았다. 과도하고 강박적인 사용과 정서적 애착을 부추기는 서비스를 막는 시간 관리 도구, AI를 사람처럼 대하는 의인화와 과의존, 정서적 의존에 대한 국제 연구 지원도 원칙에 들어갔다.

법률가의 눈으로 가장 무게가 실린 조항은 감사권의 범위다. 참여 기업은 자기 시스템에 적용된 평가 방법을 감사하고 방법론에 대한 이의를 문서로 낼 수 있다. 그러나 헌장은 이 감사권이 안전 기준과 결론, 공개 여부에 대한 권한을 주지 않으며 결과를 늦추거나 묻을 권리도 없다고 명시했다. 재정 지원이나 현물 지원도 개별 연구비 결정이나 결과를 좌우하지 못하고, 공개 거부권을 주지 않는다. 산업계 돈이 들어가는 곳도 공동 측정 작업으로 한정했다. 관찰 기구, 발달 연구, 과학위원회 보수, 평가·표준 작업은 공공 재원과 독립 자선 재원으로만 운영하고 회계를 따로 두게 했다.

연구망은 세 갈래로 굴러간다. 관찰 기구가 먼저 측정할 발달 지표와 모델 행동을 정하고 과학위원회의 승인을 받은 뒤, 나라와 연령, 문화권에 걸친 아이들의 AI 사용을 추적한다. 공동 측정 갈래에서는 회사 연구자와 독립 연구자가 함께 분류기와 채점기 같은 오픈소스 도구를 만든다. 회사는 이 도구를 자기 시스템 안에서 돌리고 부호화된 결과만 넘겨, 대화 전문을 밖으로 옮길 필요를 줄인다. 세 번째 갈래는 종단 연구와 실험으로 AI가 아이의 발달과 안녕에 미치는 영향을 본다. 과학위원회 의장단은 해마다 진행 상황과 남은 증거 공백을 공개해야 한다.

부록 2의 평가 기준은 여섯 가지로, 실제 제품 시험에 바로 옮길 수 있을 만큼 구체적이다. 무엇이 실패인지 사례와 함께 정의하고, 아이들이 실제로 쓰는 말투와 간접적인 피해 고백, 안전장치를 우회하려는 시도까지 시험에 넣어야 한다. 위험이 시간이 지나며 쌓이는 길고 반복적인 대화도 시험 대상이다. 시험 프롬프트와 대화 기록, 모델 응답을 공개하고 오탐과 놓친 사례를 보고하게 했다. 미성년자로 제대로 설정된 계정의 시험 결과와 연령을 모르거나 잘못 분류한 경우의 결과는 따로 보고해야 한다.

메탈이 확인한 7쪽 헌장 원문에는 인증이나 면허, 출시 전 승인 절차를 정한 문구가 없었다. 시험 의무도 아동이 접근할 수 있는 AI에 대해 관련이 있을 때 배포 전에, 그리고 정기적으로 시행한다는 수준이다. 보도에 따르면 마크롱 대통령은 포럼 전날 공개된 인터뷰에서 기업들이 "사전 감사와 사전 인증의 원칙"을 받아들일 것이라며 "AI라고 해서 무법천지여서는 안 된다"고 말했다. 정치 발언과 서명된 문서 사이에 간격이 있는 셈이다. 포럼이 공개한 아동 우선 선언 서명국 명단에도 미국은 없다. 메탈은 메타가 인스타그램의 AI 연령 추정을 전 세계로 넓힌 소식을 보도한 바 있는데, 헌장이 요구하는 연령 확인 기준은 이런 기술이 외부 평가를 받아야 한다는 쪽으로 기준선을 옮긴다.

헌장은 법적 구속력이 없는 자발적 약속이다. 그러나 서명 기업이 스스로 시험 방법과 공개 원칙을 문서로 적었다는 점에서, 앞으로 유럽과 각국 입법자가 참고할 기준점이 생겼다. 테크 변호사의 시각에서 보면 핵심은 200만 달러라는 금액보다 회사가 결과 공개를 막을 수 없다는 조항이다. 아이가 쓰는 AI의 안전을 누가 재고 누가 발표하느냐는 질문에, 헌장은 돈을 낸 회사가 아니라 독립 연구자라고 답했다.