마틴 카사도 "AI는 인간의 사고를 넘겨받은 첫 추상화"

그가 드는 비유는 소프트웨어 빌드 도구인 Makefile이에요. Makefile은 최종 결과물이 어떤 모습이어야 하는지만 정의하면 나머지 과정은 시스템이 알아서 처리하는 방식인데, 지금 AI를 쓰는 경험이 딱 그렇다는 거죠. 다만 결정적인 차이가 있어요. 기존의 추상화 계층은 아무리 위로 올라가도 그 아래에서 무슨 일이 벌어지는지 결정론적으로 되짚어갈 수 있었어요. 반면 AI에 질문을 던지고 답을 기다리는 과정은 계산에 얼마나 시간이 걸릴지도, 어떤 경로로 그 답에 도달했는지도 명확히 그려지지 않는다고 그는 지적해요. 카사도는 a16z와의 인터뷰에서 "적당한 말로 모델에게 기도하면, 결국 쓸모 있는 답이 나온다"고 말했어요.

반세기 동안 쌓아 올린 층, 이번엔 왜 다른가

카사도는 자신의 커리어 전체가 컴퓨팅 스택을 한 계층씩 위로 옮겨가는 과정이었다고 말해요. 프로그래밍 언어가 어셈블리 위에, 운영체제가 하드웨어 위에, 클라우드가 서버 위에 쌓이는 식으로요. 그런데 이 모든 계층은 위로 올라가도 결국 아래 계층으로 되짚어 매핑할 수 있는 결정론적 시스템이었다는 공통점이 있었어요. 인터넷이나 검색도 사람이 문제를 정의하는 몫을 크게 벗어나지 않았다는 게 그의 시각이에요. 지금 AI 앞에서 벌어지는 일은 이 흐름과 결이 다르다는 게 그가 반복해서 짚는 지점이에요.

구분	기존 컴퓨팅 추상화	AI 추상화 (카사도 진단)
사람이 넘기는 것	컴퓨트·네트워크·스토리지	추론·논리 자체
결과 예측	결정론적으로 아래 계층까지 매핑 가능	최종 상태는 알아도 도달 경로는 불명
계산 시간	대체로 가늠 가능	경계를 짓기 어려움
비유	상위 계층이 하위 계층으로 정확히 매핑됨	Makefile처럼 목표만 정의하면 나머지는 시스템이 처리

비슷한 질문, 다른 각도에서

'AI가 실제로 사고하는가'라는 질문은 카사도만 던진 게 아니에요. 우리 지면이 앞서 다룬 수학자들의 진단도 비슷한 결을 가리켜요. 필즈상 수상자 티모시 가워스와 수학자 피터 사르나크는 LLM이 기존 방법을 조합하고 여러 경로를 탐색하는 데는 능숙해도, 방대한 탐색공간에서 생산적인 경로를 골라내는 직관은 없다고 봤어요. 구글 딥마인드의 톰 자하비 역시 'LLM은 점프하지 못한다'는 논문에서 같은 결론에 닿았죠. 카사도가 말하는 '기도하듯 맡기는 사고'와, 수학자들이 말하는 '새로운 발상을 못 하는 계산기'는 결국 같은 현상을 다른 자리에서 보고 있는 셈이에요.

에디터의 시선

카사도의 진단에서 진짜 흥미로운 대목은 "다르다"는 결론 자체가 아니라, 그가 그 결론에 이르는 방식이에요. 그는 원래 AI를 컴퓨팅 스택의 자연스러운 다음 층으로 설명하려 했는데, 말하는 도중 스스로 "이건 진짜 다르다" 쪽으로 넘어갔거든요. 이전 계층들—프로그래밍 언어든 클라우드든—은 위로 올라가도 아래로 되짚어 계산 시간과 경로를 가늠할 수 있었는데, LLM에게 일을 맡기는 순간부터는 그 되짚음 자체가 끊긴다는 거예요. 이건 벤처투자자의 수사가 아니라 시스템을 직접 설계해 본 사람만 할 수 있는 관찰이에요.

실무에서 이 이야기를 곱씹어 볼 지점은 명확해요. 지금 많은 팀이 AI 에이전트에 업무를 맡기면서 결과물이 이렇게 나오겠지 기대하는데, 정작 그 결과에 도달하는 계산 시간이나 중간 경로를 통제할 방법은 아직 마땅치 않아요. 배치 작업 하나를 에이전트에 맡겼을 때 5분 만에 끝날지 50분이 걸릴지, 중간에 엉뚱한 경로로 새지 않을지를 예측하기 어렵다는 뜻이죠. 국내 기업이 에이전트형 AI를 업무에 붙일 때도 결과물의 품질만 볼 게 아니라, 이 경로 불확실성을 어디까지 감내할 수 있는지를 먼저 정해두는 게 순서예요. 정형화된 반복 업무일수록 이 위험이 작고, 판단이 필요한 일일수록 위험이 커지죠.

앞으로 몇 주 안에 이 논쟁이 더 커질 걸로 봐요. 에이전트가 스스로 계획을 세우고 실행하는 사례가 늘어날수록, 결과는 예측 가능한데 과정은 예측 불가능하다는 카사도의 지적에 동의하는 목소리도 함께 늘어날 거예요.