타오, 좋은 수학 문제가 바닥나고 있다

같은 기간 오픈AI가 다른 사건에서 내놓은 설명은 결이 달랐어요. 회사는 트리스탄 벅마스터와 레벤트 알푀게 건에 대해 특정 사용자 데이터에 접근하지는 않았다고 하면서도, 제품 사용에서 파생된 비식별 데이터가 모델 개선에 도움이 되었을 가능성은 배제할 수 없다고 밝혔어요. 톰 교수는 회사가 이 사건에서 그은 구분선을 자신에게 보낸 답변에서는 지워 버렸다고 주장했어요.

여기에 필즈상 수상자 테런스 타오가 다른 층위의 진단을 얹었어요. 그는 9월 8일 마스토돈에 좋은 미해결 문제들이 재생 불가능한 방식으로 채굴되고 있다고 썼어요. 문제는 무한히 만들어 낼 수 있으니 고갈이 이상하게 들릴 수 있는데, 타오는 이렇게 설명했어요. "어떤 나라나 지역은 거대한 바다에 둘러싸여 있으면서도 심각한 식수난을 겪을 수 있어요." 원주율의 10의 10의 10제곱 번째 자릿수를 구하는 문제처럼, 얼마든지 만들 수 있지만 아무것도 알려 주지 않는 문제가 대부분이라는 이야기예요.

타오는 어떤 질문이 파고들 가치가 있는지 가려내는 일 자체가 오래 걸리고 주관적인 작업이라고 적었어요. 어떤 문제가 기존 방법으로 쉽게 풀리고 어떤 문제가 애를 써야 풀리며 어떤 문제가 불가능한지, 그 난이도 지형을 아는 것이 판단의 핵심이라는 거예요. 도구가 좋아지면 난이도 지형이 평평해지는데, 보통은 도달 가능한 범위가 함께 넓어져 새 경계가 생기면서 상쇄돼요.

지금 AI 시대의 특징은 그 경계가 보이지 않는다는 데 있다고 타오는 짚었어요. 어느 문제가 AI로 풀리고 어느 문제가 안 풀리는지를 가르는 선이 없고, 기술이 빠르게 바뀌는 탓도 있지만 회사들이 실패한 시도를 공개하지 않고 풀이에 이른 과정도 밝히지 않는 탓이 겹쳤다는 설명이에요. 그 결과 그는 "이제 희소하고 귀한 자원은 유망한 문제를 찾아내는 일 자체예요"라고 적었어요.

가장 무거운 대목은 그다음이에요. 타오는 누군가 어떤 문제를 붙들고 있다는 소문만으로도 대규모 AI 연산이 몰려들어, 원래 연구가 무르익기 전에 그 문제를 평평하게 만들어 버리는 일을 이미 목격했다고 썼어요. 그래서 유망한 연구 방향을 공동체와 공유하지 않는 쪽으로 유인이 기울고 있고, 이는 수백 년간 이어 온 열린 과학의 전통을 뒤집어 이 분야의 미래에 장기적인 손상을 입힐 것이라고 그는 주장했어요.

법률의 눈으로 보면 이 사건의 핵심은 누가 무엇을 입증해야 하느냐예요. 톰 교수는 6월 29일에 모델 학습을 껐다고 밝혔는데, 그 스위치는 사용자가 이행 여부를 감사할 수 없는 약속이고 앞으로만 적용돼요. 그전에 오간 대화나 이미 추출된 파생물에는 아무 답이 되지 않아요. 오픈AI의 답변에는 그 설정 이야기도, 계정별로 확인했다는 언급도 없었어요. 그는 내부 학습 파이프라인을 이용자가 역설계해야 할 이유는 없으며 관련 데이터를 가진 쪽은 회사뿐이라고 적었어요.

비식별화라는 말이 어디까지 덮느냐도 같은 자리에 있어요. 톰 교수는 "비식별화는 이름을 지울 수는 있어도 수학적 아이디어의 지적 내용을 지우지는 못해요"라고 적었어요. 이름을 떼면 개인정보 문제는 정리되지만, 아이디어 자체는 그대로 남아 다음 모델의 능력이 돼요. 그는 쿤과 자신의 접근이 비소픽성 연구의 주된 공략선이 아니었고 양자 게임 쪽에 더 유망한 길이 있었다는 점을 들어, 모델이 하필 그 경로를 상세히 다룬 것이 의문을 키웠다고 설명했어요.

톰 교수는 9월 10일 다시 글을 올려 문제를 제도 쪽으로 옮겼어요. 그는 이런 종류의 지능이 몇몇 회사가 조건을 전부 정하는 일반 소비자 상품처럼 다뤄져서는 안 된다고 적었어요. 공급자가 사람들의 아이디어와 정보를 모으고, 그것이 어떻게 쓰였는지에 관한 증거를 독점하고, 그 우위를 자기 이용자에게 되쓰는 구조를 지적한 거예요. 지능이 사회의 기반 시설이 되는 순간 물이나 전기에 준하는 공적 의무와 독립적인 감독 아래 놓여야 한다는 것이 그의 결론이에요.

메탈이 확인한 타오의 글은 네 편으로 이어지고, 마지막 편에서 그는 해법 추출 도구를 완전히 금지하는 것이 현실적으로 어렵다고 인정했어요. 대신 문제를 푸는 데서 끝내지 말고 풀이 과정에서 통찰을 끌어내고 인접 문제의 난이도 지형까지 배우기를 요구하는 문제군을 따로 지정하자고 제안했어요. 기부 식품이 먹을 수 있다는 사실만으로 아무거나 받지 않고 명시적인 기준을 두는 것과 같은 방식이라고 그는 비유했어요. 메탈은 오픈AI가 난제를 풀었다며 낸 발표를 두고 우선권 다툼이 붙은 일과 벅마스터가 발표 전날 받은 전화를 기록한 일을 보도한 바 있는데, 이번 주는 그 개별 분쟁이 분야 전체의 규칙 문제로 옮겨 간 자리예요.

지금까지 확인된 것은 톰 교수가 두 갈래로 물었고 오픈AI가 한 갈래로만 답했다는 사실, 그리고 회사가 다른 사건에서는 비식별 파생 데이터의 기여 가능성을 열어 뒀다는 사실이에요. 학습 파이프라인의 실제 동작을 확인할 수 있는 자료는 회사만 갖고 있어요. 앞으로 확인할 것은 두 가지예요. 오픈AI가 제품 설정과 데이터셋, 체크포인트를 근거로 자신의 부인을 뒷받침하는지, 그리고 수학자들이 미발표 아이디어를 상용 모델에 넣지 않는 쪽으로 실제로 움직이는지예요.