앤스로픽, 미공개 클로드로 리만 가설 도전…부분 성과 보고

미공개 클로드에게 던진 160년 묵은 문제

앤스로픽(Anthropic)이 아직 출시하지 않은 연구용 Claude 버전에 리만 가설을 풀어보라고 시켰다. 결과부터 말하면 못 풀었다. 대신 회사는 "관련 문제에서 진전을 냈다"고 밝혔다. 리만 제타 함수의 영점 가운데 가설을 만족하는 것들의 비율, 그 하한선을 기존 값보다 끌어올렸다는 것이다. 다만 공개된 게시물 발췌에는 "~에서"까지만 남아 있어 구체적으로 어떤 숫자를 어디까지 올렸는지는 확인되지 않는다.

리만 가설이 왜 그렇게 어려운가

리만 가설은 1859년 베른하르트 리만이 제기한 이후 지금까지 미해결로 남아 있는 수학의 대표 난제다. 소수(素數)가 수직선 위에 어떤 간격으로 흩어져 있는지를 설명하는 문제이고, 클레이수학연구소가 100만 달러 상금을 걸어둔 밀레니엄 문제 일곱 개 중 하나다.

핵심은 이렇다. 제타 함수라는 함수가 0이 되는 지점들이 있다. 리만은 그 지점들이 예외 없이 복소평면의 어떤 한 직선 — 이른바 '임계선' — 위에 놓여 있을 것이라고 추측했다. 컴퓨터로 수조 개의 영점을 계산해봤지만 반례는 아직 하나도 나오지 않았다. 그런데도 증명이 안 된다. 무한히 많은 영점 '전부'가 그 선 위에 있다는 걸 보이는 일은, 아무리 많은 사례를 확인해도 끝나지 않기 때문이다.

'전부' 대신 '몇 퍼센트'를 늘리는 우회로

그래서 수학자들은 우회로를 택했다. 전부를 증명하는 대신, 영점 중 최소 몇 퍼센트가 임계선 위에 있는지를 계산해 그 비율을 조금씩 밀어올리는 방식이다. 1974년 노먼 레빈슨이 최소 3분의 1, 1989년 브라이언 콘리가 5분의 2 수준까지 올렸고, 그 뒤로도 소수점 단위의 개선이 논문 한 편씩을 만들어냈다. 반세기 동안 절반의 벽조차 넘지 못한 영역이다. 앤스로픽이 말한 '하한 상향'은 바로 이 계보에 놓인 작업이다.

이 대목이 중요하다. AI가 수학에 쓰인다고 할 때 대개는 사람이 만든 증명을 검증하거나, 벤치마크 문제를 푸는 수준이었다. 반면 이번 사례는 전문 수학자들이 수십 년째 붙어 있는 실제 연구 전선에서 조금이라도 앞으로 나갔다는 주장이다. 물론 이런 결과는 논문 형태로 공개되고 다른 수학자들의 검토를 거쳐야 비로소 성과로 인정된다. 트윗 한 줄과 학계의 승인 사이에는 긴 거리가 있다.

AMD, 앤스로픽에 최대 7조원 투자하고 2GW 칩 공급

그래서 무엇이 달라지나

앤스로픽은 Claude를 만드는 회사이고, 최근 코딩 에이전트와 기업용 모델로 사업을 키워왔다. 그런 회사가 굳이 '미공개 연구 버전'을 꺼내 난제 이야기를 하는 이유는 짐작할 만하다. AI 모델의 실력을 보여주는 무대가 시험 점수에서 미해결 문제로 옮겨가고 있다는 신호다. 구글 딥마인드가 수학 올림피아드 문제와 정렬 알고리즘에서 성과를 내놓은 것도 같은 흐름 위에 있다.

독자 입장에서 당장 쓸 수 있는 게 늘어난 발표는 아니다. 해당 모델은 출시되지 않았다. 대신 눈여겨볼 지점은 따로 있다. 앞으로 프론티어 랩들의 성과 발표가 '벤치마크 몇 점'이 아니라 '어느 미해결 문제를 얼마나 밀었나'로 표현되기 시작한다면, AI 실력을 비교하는 기준 자체가 바뀐다. 검증 가능한 진짜 문제에서 나온 결과는 점수 인플레이션과 달리 부풀리기가 어렵다는 점에서, 오히려 독자에게는 더 정직한 지표가 될 수 있다.