앤스로픽, 클로드의 양자 회로 설계 공개

앤스로픽이 자사 모델 Claude Mythos 5 에 양자 회로 설계를 맡겨 기존에 발표된 최고 설계보다 적은 큐비트와 적은 게이트를 쓰는 회로를 찾았다고 10월 16일 공개했다. 화학과 최적화, 물리 시뮬레이션, 정수론, 수치 계산에서 고른 기본 연산 8종이 대상이었고, 회사는 일부 과제에서 개선 폭이 한 자릿수 배를 넘어 열 배 이상이었다고 밝혔다.

연구는 앤스로픽 STEM 펠로 프로그램의 앤디 구(Andi Gu)가 이끌었고 회사 소속 양자물리학자 알렉 케메니(Alek Kemeny)가 멘토를 맡았다. 하버드대의 수잰 옐린(Susanne Yelin) 교수와 하버드대·퀘라 컴퓨팅의 미하일 루킨(Mikhail Lukin) 교수가 함께 참여했고, 전체 논문은 arXiv 에 올라갔다.

지금까지 만들어진 양자 컴퓨터는 큐비트가 수백에서 수천 개 수준이고, 열과 진동은 물론 우주선(宇宙線)까지 큐비트 상태를 흔들어 오차를 쌓는다. 발표문은 "큐비트와 계산 시간이 모두 희소한 자원"이라며 연구자들이 더 적은 큐비트로 더 짧게 끝나도록 알고리즘을 다시 설계해 왔다고 적었다. 앤스로픽이 든 사례가 질소 고정 효소의 철-황 클러스터 FeMoco 다. 2017년 추정치는 바닥 상태 에너지를 계산하는 데 토폴리 게이트 약 50조 개였지만, 알고리즘 개선이 쌓이며 약 3억4000만 개까지 내려왔다. 약 15만분의 1이고, 물리 큐비트 약 300만 개짜리 미래 기계에서 몇 시간 분량이다.

설계 과정은 사람이 중간에 끼지 않는 닫힌 고리였다. 모델이 파이썬으로 구현을 내놓으면 평가 프로그램이 정확한지 검사하고 큐비트 수와 게이트 수로 점수를 매겨 돌려주며, 모델은 그 점수를 보고 다음 시도를 고친다. 점수는 큐비트 수에 게이트 수를 곱한 값으로, 회로가 실제로 얼마나 오래 걸릴지를 대신하는 지표다. 발표문은 이 과제가 모델에게 맞는 이유로 회로를 코드로 쓸 수 있다는 점, 입력마다 정답이 하나라 일반 컴퓨터로 정확성을 확인할 수 있다는 점, 개선할 목표 점수가 분명하다는 점 세 가지를 들었다.

개선은 기존 설계를 다듬어서가 아니라 문제의 구조를 새로 본 데서 나왔다. 철-황 분자 시뮬레이션 회로에서는 분자의 대칭성과 반복 구조 때문에 한 번 계산한 값을 다시 쓸 수 있다는 점을 모델이 찾아냈고, 다른 과제에서는 아주 드문 입력만을 위해 들어가 있던 비싼 부품을 걷어 냈다.

가장 까다로운 시험은 타원곡선 위의 두 점을 더하는 점 덧셈이었다. 이산로그 문제를 푸는 양자 알고리즘의 핵심 단계이자 이 분야의 표준 벤치마크다. 앤스로픽은 수학 규칙과 채점 방식을 적은 한 문단짜리 지시만 주고 여러 접근을 병렬로 탐색하게 했고, 53시간을 돌린 끝에 완전히 새로운 방식이 나왔다. 비용의 대부분을 차지하는 모듈러 역원 계산에서 일반 컴퓨터는 디브스텝스라는 방법을 쓰는데, 양자 회로는 모든 단계가 되돌릴 수 있어야 해서 매 반복에서 어떤 연산을 골랐는지의 기록을 버리지 못하고 쌓아 두느라 큐비트를 크게 잡아먹는다.

모델이 택한 길은 기록을 저장하지 않고 숫자 쌍에서 되읽는 것이었다. 작은 사례에서 통하던 규칙이 256비트 실제 크기에서 깨지자, 모델은 반복 과정이 왜 그렇게 움직이는지를 수학으로 파고들어 새 대수 항등식을 여러 개 증명하고 그로부터 해독 규칙의 공식을 끌어냈다. 이어 대규모 수치 시뮬레이션으로 검증하고 증명 보조 도구 Lean 으로 형식화한 뒤, 분기 기록을 저장하지 않는 최초의 가역 디브스텝스 구현을 내놨다. 해독은 큐비트를 아끼는 대신 시간을 쓰기 때문에 저장과 해독의 경계를 바꿔 가며 설계군을 만들었고, 그중 하나는 기존 최소 설계보다 큐비트를 12% 더 쓰는 대신 게이트를 17분의 1로 줄였다.

두 번째 사례는 최적화 알고리즘 DQI 에서 가장 비싼 단계인 리드-솔로몬 복호기다. 기존 최고 회로는 확장 유클리드 알고리즘을 썼는데, 입력마다 단계 수와 순서가 달라지는 방식이라 모든 입력을 한 번에 처리하는 양자 회로에서는 필요 이상으로 반복을 늘리고 매 회차에 모든 연산을 돌려야 했다. 모델은 회차마다 같은 종류의 연산을 같은 횟수로 수행하는 벌레캠프-매시 복호로 갈아탔다. 되돌리기 위해 남겨야 하는 임시 값은 대부분 현재 상태에서 복원하게 했고, 복원되지 않는 예외 값만 저장했다. 최악의 경우를 다 받으려면 35개 회차분, 큐비트 665개가 필요했지만, 고속 시뮬레이터로 표본 복호 4억300만 건을 돌려 보니 예외는 거의 한 번을 넘지 않았다. 그래서 회로는 값 하나분인 큐비트 19개만 비워 뒀고, 1만 번에 한 번꼴로 실패하는 수준은 과제가 허용하는 오차 범위 안이다. 세 층위의 변경을 합쳐 복호기의 게이트 수는 구글의 기존 구성 대비 12분의 1로 줄었다.

메탈이 확인한 발표문에는 여덟 과제의 설계를 찾는 데 든 전체 연산 비용이나 실행 횟수, 평가 프로그램의 구현은 적혀 있지 않다. 구글 퀀텀 AI 연구진의 추정에 따르면 특정 최적화 문제 하나를 세계 최상위 슈퍼컴퓨터 프런티어로 풀면 약 3개월이 걸리지만 DQI 를 돌리는 미래 양자 컴퓨터로는 약 1시간이고, 그 1시간의 대부분이 리드-솔로몬 복호에 쓰인다. FeMoco 추정치가 15만분의 1로 내려오기까지 여러 연구 그룹이 8년을 썼고 단계마다 보통 몇 달이 걸렸다는 대목과, 타원곡선 설계가 53시간 한 번의 실행에서 나왔다는 대목이 앤스로픽이 내세우는 대비다.

모델의 성향도 기록에 남았다. 초기 실험에서 모델은 이미 충분히 뒷받침된 결과를 두세 번씩 다시 확인했고 새로운 접근보다 잘 알려진 방법을 선호했다. 회사는 질적으로 다른 접근을 여러 개 동시에 전개하도록 요구하고 탐색을 넓히라고 가끔 지시하는 두 가지 조치로 이를 눌렀다고 적었다. 발표문은 "일단 아이디어를 떠올린 뒤에는 클로드가 그 접근을 발전시키고 구현하고 정확성을 자율적으로 검증했다"고 밝혔다.

메탈은 클로드가 신종 효소 시스템을 찾아낸 연구를 보도한 바 있으며, 이번 결과도 코드로 쓸 수 있고 점수를 매길 수 있는 문제라는 같은 조건 위에 서 있다. 회로 설계는 쓸모 있는 양자 컴퓨터를 만드는 일의 한 조각이다. 오류 정정 부호와 빠른 복호기, 하드웨어 제어 같은 구성 요소도 서로 영향을 주고받지만 복잡도 때문에 대개 따로 설계된다. 앤스로픽은 이들 상당수가 코드로 쓰고 정확성을 검사하고 비용으로 점수를 매길 수 있다는 같은 성질을 지녔다며, AI 가 알고리즘부터 하드웨어까지 한꺼번에 최적화해 특정 문제에 맞춘 오류 정정 양자 컴퓨터를 설계하는 그림을 제시했다. 계산 자원을 줄이는 일이 곧 일정을 당기는 일이라는 주장이고, 검증 가능한 점수판이 있는 과학 문제가 어디까지 이 방식에 열려 있는지가 다음 질문이다.