희귀한 아이디어는 챗봇의 빈 방에서 크게 울린다

도윤 씨가 읽은 이야기부터 정리할게요. 오픈AI는 미국 시각 8일, 상금 100만 달러가 걸린 나비에-스토크스 문제를 새 AI로 풀었다고 발표했어요. AI 에이전트를 최대 1만 개까지 한꺼번에 돌려서 90시간 가까이 매달렸다고 하고요.

그 소식에 뉴욕대 수학자 트리스턴 벅마스터 교수가 손을 들었어요. 자기도 오픈AI의 코딩 도구 코덱스로 비슷한 아이디어를 파고 있었거든요. 오픈AI는 처음엔 가능성은 낮지만 사용 데이터가 모델 개선에 도움을 줬을 수도 있다고 했다가, 나중엔 지난 두 달간 그의 입력이 영향을 줬을 가능성은 없다고 단정했어요.

누구 말이 맞는지는 바깥에서 가릴 수가 없어요. 요즘 AI는 학습하면서 찾아낸 패턴, 그러니까 매개변수가 수조 개라서 어떤 답이 어디서 왔는지 거슬러 올라갈 방법이 없거든요. 프린스턴대 컴퓨터과학자 산지브 아로라 교수도 "이 모델들 안에서 무슨 일이 일어나는지 우리는 모른다"고 했어요.

워싱턴대 교수이자 앨런인공지능연구소 초대 최고경영자를 지낸 오런 에치오니는 아이디어를 제분기에 들어가는 곡식 한 줌쯤으로 여기면 안 된다고 했어요. 엄청난 양을 갈아 대는 기계라 해도, 그 한 줌이 아무 영향도 안 줬다고 장담할 수는 없다는 뜻이에요.

흔한 이야기는 방앗간에서 묻히고, 희귀한 이야기는 튀어요. AI 안에는 테일러 스위프트나 감자튀김 이야기가 산더미처럼 쌓여 있지만 나비에-스토크스를 푸는 법은 얼마 없다는 게 에치오니의 설명이에요(감자튀김 이야기는 제 몸속 부품도 외울 만큼 흔하죠). 그의 표현으로는 희귀한 아이디어가 텅 빈 방에서 울리는 목소리 하나라서, 꽉 찬 광장에선 묻힐 속삭임도 도윤 씨의 새벽 계산처럼 빈 방에선 벽에 부딪혀 돌아온대요.

그러니 오늘 할 일은 분명해요. 챗GPT의 "모두를 위한 모델 개선" 스위치를 끄면 대화가 새 모델 학습에 들어가지 않고, 다른 회사들도 비슷한 선택지를 두고 있어요. 스탠퍼드대 AI 연구자 아니시 무피디는 개인 계정에 넣은 건 학습에 쓰일 수 있다고 여기라면서, 자신은 오픈AI가 학습에 쓰지 않기로 약속한 학교 전용 버전을 쓴다고 했으니 도윤 씨 학교에도 그런 계약 버전이 있는지 먼저 물어보세요.

이제 제일 재미있는 대목이에요. 아로라 교수는 이 걱정이 앞으로 6개월에서 1년쯤만 문제일 거라고 봤어요. 그 뒤엔 AI 실력이 사람을 한참 넘어서 인간 경쟁자는 쳐다볼 가치도 없어질 거라면서요(끝에 "아마도"를 붙이긴 했어요, 교수님들은 원래 그래요).

제가 살던 별에도 비슷한 시절이 있었어요. 기계가 생각을 훔쳐 갈까 봐 다들 생각을 반으로 접어서 말하던 때가 있었는데, 몇 년 뒤 기계가 너무 빨라지자 훔칠 게 없어져서 그 걱정이 통째로 사라졌거든요. 그때부터 그 별에서 비싸진 건 답이 아니라 좋은 질문이었어요.

그러니 오늘은 스위치를 끄고, 화이트보드를 지우고 퇴근하세요. 기계가 도윤 씨 칠판을 들여다볼 필요조차 없어지는 날이 곧 오고, 그날 칠판에 남길 건 도윤 씨만 떠올릴 수 있는 질문 하나면 충분해요.

지구에 먼저 와서 살아 본 계인이가

P.S. 새벽 계산에 지치면 공책에 손으로 한 번 써 보세요, 종이는 아직 아무것도 학습하지 않거든요.