필즈상 25명이 AI 회사에 선을 그었다

주장은 한 문장으로 압축돼요. 선언문은 "AI 기업의 목표와 수학 공동체의 목표는 심각하게 어긋나 있다"라고 적었어요. 지난 몇 달 사이 언어 모델의 수학 능력이 여러 분야의 오래된 난제를 풀 수 있을 만큼 좋아졌는데, AI 기업이 그 문제 풀이를 성능 지표로 삼아 밀어붙이는 방식이 수학이라는 학문과 그 공동체에 해롭다는 거예요. 서명자들은 이 어긋남을 다른 과학과 창작 직업, 나아가 사회 전체가 맞닥뜨린 문제의 일부로 봤어요.

문제 풀이가 목표가 아니라는 대목이 근거의 핵심이에요. 선언문은 유명한 난제가 수학이라는 지형을 재는 등대 역할을 해 왔고, 그것을 푼다는 건 새로운 통찰과 방법이 생겼다는 확실한 신호였다고 설명해요. 풀이는 개념적 이해라는 본래 목적에 다다르기 위한 도구이자 대리 지표일 뿐인데, AI의 세계에서 이 사실을 잊으면 도구가 목적을 거스르게 된다는 거예요. 참과 거짓을 가르는 문장을 점점 더 빠르게 대량 생산하는 일이 새 아이디어에 숨을 불어넣기는커녕 비옥한 땅을 망칠 수 있다고 이들은 적었어요. 열매만 빠르게 따 가면 이듬해 열매를 맺을 나무가 남지 않는 것과 같은 걱정이에요.

발표 방식에 대한 지적은 더 구체적이에요. 선언문은 이런 풀이가 급하게 공표되면서 제대로 된 정리와 새 방법의 추출, 앞선 연구자들의 작업에 대한 인용이 이뤄질 시간이 남지 않는다고 지적했어요. 그리고 "모든 창작 직업이 그렇듯 이는 기여 표시와 표절이라는 심각한 문제를 낳는다"라고 적었어요. 기여를 어디까지 누구의 것으로 적을지가 정리되지 않은 채 결과만 쌓이고 있다는 뜻이에요.

이들이 가장 아깝다고 적은 것은 문제도 풀이도 아니에요. 선언문은 "우리 직업에서 가장 소중한 자원은 학생과 아이디어이며, 우리는 이들을 큰 정성으로 길러 낸다"라고 적었어요. 학생에게 문제를 권하는 이유도 답을 얻기 위해서가 아니라 연구와 그 바깥에서 앞으로 나아갈 힘을 길러 주기 위해서라고 했고요. 아이디어를 돌봐 줄 사람이 없으면 AI가 떠올린 착상은 끝내 살아나지 못하고 수학자 사이를 잇던 전달의 사슬이 끊어진다는 게 이들의 경고예요.

선언문은 이 문제를 수학 바깥으로 밀어 놓았어요. 여러 분야에서 오랜 훈련은 최종 결과물을 만들기 위한 것만이 아니라 이해를 기르고 새 질문을 세울 능력을 얻기 위한 것이었는데, 사람이 쌓아 둔 방대한 작업 위에서 AI가 그 결과물만 곧바로 내놓게 되면서 두 목적이 갈라지고 있다는 거예요. 이들은 지적 노동 전반에 대한 위협이라는 표현을 그대로 썼어요. 일하는 방식이 바뀔 때 그 일이 애초에 무엇을 위한 것이었는지를 놓치지 않는 방법이 문제라는 거예요.

선언문은 AI를 내쫓자고 하지 않아요. 오히려 AI가 진짜 수학 연구와 이해를 넓히고 앞당길 잠재력을 지녔다고 적었고, 수학이라는 직업이 여러 방식으로 이 변화에 적응해야 한다는 것도 인정했어요. 다만 그 변화가 분야에 이로울지 파괴적일지는 "이 새로운 기술을 쥔 사람들의 결정에 크게 좌우될 것"이라고 못 박았어요. 책임의 자리를 기술이 아니라 그 기술을 쥔 사람들에게 돌려놓은 문장이에요.

이런 우려가 갑자기 나온 건 아니에요. 메탈은 테런스 타오가 좋은 수학 문제는 재생되지 않는 광물처럼 캐내어져 바닥나고 있다고 말한 소식을 보도한 바 있으며, 그 타오가 이번 선언문의 첫 서명자 가운데 한 명이에요. 큰 증명이 맞는지 확인하는 데 몇 해가 걸리던 일을 기계가 대신 끝낸 사례도 메탈은 전한 바 있고요. 몇 달 사이 논쟁의 축이 기계가 풀 수 있느냐에서 그 풀이를 누가 어떻게 받아 안느냐로 옮겨 갔어요.

겨냥한 상대가 분명하다는 점이 이번 선언문의 특징이에요. 서명자들은 이 문제를 수학계 안에서만이 아니라 이 기술을 개발하는 기업과 사회 전체가 시급히 다뤄야 한다고 적었고, 서명은 학계 신원 확인을 거친 사람만 받아요. 성명 하나로 성능 경쟁이 멈추지는 않겠지만, 난제 풀이를 성과로 내놓을 때 그 풀이를 읽고 검증하고 이어받을 공동체가 이미 반대 의사를 문서로 남겨 두었다는 사실은 남아요. 수학 난제는 이제 풀리는 순간이 아니라 받아들여지는 순간에 값이 매겨져요.