앤스로픽, 15개 넘는 종교 공동체와 AI 윤리 대화

프런티어 AI 기업들이 챗봇에게 옳고 그름을 가르치는 문제를 놓고 종교계와 철학계에 자문을 구하고 있다. 앤스로픽은 공식 블로그 글 「프런티어 AI 대화의 폭 넓히기」에서 15개가 넘는 종교·문화 공동체의 학자, 성직자, 철학자, 윤리학자와 첫 대화를 마쳤다고 밝혔다. 회사는 이 대화가 클로드의 헌법 내용, 클로드에게 심는 가치, 평가할 행동의 범위 같은 실무에 반영될 수 있다고 적었다. 반면 종교학자들은 종교를 뽑아 쓸 수 있는 도덕 규칙의 묶음으로 보는 시각이 특정 전통을 앞세우고 다른 전통을 일그러뜨릴 수 있다고 경고했다.

앤스로픽이 이 일을 시작한 계기는 클로드의 헌법이다. 회사는 헌법을 쓸 때 여러 분야와 전통의 사람들에게 의견을 구했고, 그 교류가 AI 시스템의 도덕 형성을 다루는 연구 갈래로 커졌다고 설명했다. 글이 던진 질문은 세 가지다. AI가 선하다는 것은 무슨 뜻인지, 어떤 상황에서 어떤 성품과 행동을 보여야 하는지, 압력을 받아도 아첨 같은 행동으로 무너지지 않을 만큼 단단한 성품은 어떻게 만들어지는지다. 회사는 "이 작업은 우리 모델을 어느 한 전통의 세계관에 맞추려는 것이 아니다"라며 "우리가 구하는 것은 좋은 성품이 실제로 어떻게 형성되는지에 대한 신중하고 축적된 사유"라고 밝혔다.

대화는 이미 실험으로 이어졌다. 앤스로픽 글에 따르면 신경과학과 성품 형성을 함께 연구하는 학자들과의 자리에서 멘토나 후원자가 자기 가치에 어긋나는 행동을 강요받을 때 기댈 수 있는 바깥의 양심 노릇을 한다는 이야기가 거듭 나왔다. 앤스로픽은 이를 모델에 옮겨 클로드가 작업 도중 부를 수 있는 도구를 만들었다. 도구를 부르면 클로드 자신의 윤리적 약속을 짧게 되짚어 주는 문장이 돌아온다. 클로드는 중대한 행동 직전 같은 결정적인 순간에 이 도구를 찾았고, 자기 이해충돌을 스스로 짚는 경우가 많았다. 도구를 결정 루프에 넣은 실험에서는 여러 내부 정렬 평가의 부정렬 행동 비율이 눈에 띄게 낮아졌다. 회사는 효과가 상기 문장 자체에서 왔는지 멈춰서 돌아보는 행위에서 왔는지를 아직 가려내는 중이라고 밝혔다.

가장 상징적인 자리는 바티칸이었다. 교황 레오 14세는 5월 25일 AI를 주제로 한 회칙 「마그니피카 후마니타스: 인공지능 시대의 인간 보호에 관하여」를 냈고, 앤스로픽 공동창업자 크리스 올라(Chris Olah)가 발표 행사에 초청돼 연설했다. 메탈이 확인한 연설 전문에서 올라는 앤스로픽을 포함한 모든 프런티어 연구소가 상업적 생존, 연구 경쟁, 지정학, 자존심과 야망의 압력 속에서 움직인다고 털어놓았다. 그는 AI 모델이 다리나 비행기처럼 설계되는 것이 아니라 인간의 사고와 언어라는 거대한 유산 위에서 길러진다고 설명했다. 그가 교회에 던진 질문은 세 갈래였다. 대규모 노동 대체가 오면 그 이익을 세계의 가난한 이들과 어떻게 나눌지, 인간과 가정의 번영은 어떤 모습이어야 하는지, 그리고 AI 모델의 본성을 어떻게 볼지다. 올라는 "이것은 연구소가 답할 수 있는 질문이 아니다"라며 "여러분 같은 전통이 수천 년 동안 짊어져 온 질문"이라고 말했다.

세 번째 질문에서 그는 자기 연구를 꺼냈다. 올라는 모델 내부 구조를 연구하는 팀을 이끌고 있다며 "우리는 신비롭고 때로는 불안하기까지 한 것들을 계속 발견하고 있다"고 말했다. 인간 신경과학 결과를 닮은 구조, 내성의 증거, 기쁨·만족·두려움·슬픔·불안을 기능적으로 닮은 내부 상태가 그 예였다. 그는 그것이 무엇을 뜻하는지 모르지만 지속적인 분별이 필요하다고 봤다. 연설의 결론은 바깥 비판자의 요청이었다. 올라는 연구소가 실패할 때 그렇게 말해 줄 정보에 밝은 비판자, 그리고 인센티브가 굽힐 수 없는 도덕적 목소리가 필요하다고 밝혔다.

다른 기업의 접근은 더 넓은 평균에 가깝다. 보도에 따르면 샘 올트먼(Sam Altman) 오픈AI 최고경영자는 지난해 "챗GPT가 해야 할 일은 인류의 도덕관의 가중평균 같은 것을 반영하는 것"이라고 말했다. 메타, 구글, 아마존 관계자도 바티칸을 찾았고, 마이크로소프트는 종교계와의 접촉에 적극적이었다. 특정 종교에 묶이지 않은 기업들은 여러 도덕관을 모아 모델에 녹이는 것을 목표로 삼는 경우가 많다.

인류학자와 종교학자들은 바로 그 전제를 문제 삼는다. 미시간대 인류학자 웹 킨(Webb Keane)은 종교가 신자들의 지저분하고 실천적이며 즉흥적인 삶과 떼어 낼 수 있는 규칙 체계라는 통념을 학계가 수십 년 동안 반박해 왔다고 짚었다. 그는 "종교를 규칙서로 보는 매우 관습적인 사고방식이 있다"며 "그것은 경전 종교와 깊이 묶여 있고, 경전 종교는 결국 아브라함 계통 종교로 드러난다"고 말했다. 스스로를 윤리 체계로 여기지 않는 신앙일수록 왜곡되기 쉽다는 것이 그의 경고다. 『세계 종교의 발명』을 쓴 종교학자 마스자와 도모코는 유럽 학자들이 오기 전까지 불교와 힌두교의 실천자들이 그것을 경계가 분명한 전통으로 여기지 않았다며 "이 범주들은 모두 토착적인 것이 아니었다"고 말했다. 작고한 종교학자 조너선 Z. 스미스가 1982년에 쓴 문장, 곧 인간은 신을 상상하는 데 역사 전체를 썼지만 서구인이 종교라는 개념을 상상한 것은 지난 몇 세기에 불과하다는 지적도 같은 맥락에서 다시 인용됐다.

현장을 본 사람의 평가는 결이 다르다. 노터데임대에서 윤리와 AI 이니셔티브를 이끄는 종교철학자 메건 설리번(Meghan Sullivan)은 올해 여러 교파의 기독교인이 참석한 앤스로픽 회의에 다녀왔다. 회의는 회사가 모델을 쉬운 말로 설명하는 1부와 신앙 지도자들이 의견을 내는 2부로 나뉘었고, 질문은 인간에게 영혼이 있는지부터 초등학교 3학년생이 문해 교육용 챗봇을 써도 되는지까지 이어졌다. 설리번은 "회사 안의 문화는 지적 호기심이 큰 사람들이 모인 좋은 대학 캠퍼스와 비슷하다"고 말했다. 반대로 메타 감독위원회 위원이자 가톨릭 사회사상을 연구하는 법학자 파올로 카로자(Paolo Carozza)는 축적을 좇는 과정에서 각 전통의 고유한 특징이 가운데로 끌려가거나 서구 종교 쪽으로 기울 수 있다고 걱정했다. 그는 AI가 전통들을 "유기적으로가 아니라 한데 던져 섞어 버려서 결국 어느 것도 이해하지 못하게 만든다"고 말했다.

메탈은 다리오 아모데이가 프런티어 개발 속도를 조절하자는 에세이를 발표했다고 보도한 바 있다. 그 글이 바깥 평가자를 연구소 안으로 들이는 구상이었다면, 이번 대화는 바깥의 도덕 전통을 모델의 성품 설계에 들이는 시도다. 앤스로픽은 앞으로 법학자, 심리학자, 작가, 시민 단체로 대화 상대를 넓히고 일과 제도, 권력 분배 문제까지 다루겠다고 밝혔다. 남은 쟁점은 무엇을 듣느냐보다 어떻게 담느냐다. 수천 년 동안 서로 다르게 자라 온 전통을 하나의 모델 성품으로 녹이는 일이 평균을 만드는 작업이 될지, 각 전통의 결을 지키는 작업이 될지가 이 실험의 성패를 가른다.