앨런AI, AI 보조 과학연구의 다섯 가지 벽 공개

풀어서 설명하면, 프로비던스 스웨디시 산하 폴 G. 앨런 연구센터와 앨런AI 연구소는 둘 다 마이크로소프트 공동창업자 폴 앨런의 이름을 딴 기관이에요. 두 기관은 이런 연결고리 아래 암 연구에 AI를 접목하는 협업을 이어왔고, 이번 행사는 그 협업이 확장됐다는 소식을 계기로 열렸어요.

Ai2가 8월 27일 행사를 연 이유

앨런AI 연구소는 2014년 폴 앨런이 세운 시애틀 소재 비영리 연구소로, 모델 가중치뿐 아니라 학습 데이터와 코드까지 공개하는 방식으로 알려져 있어요. 이 연구소가 만든 AutoDiscovery는 이미 문헌 검색, 데이터 분석, 코드 작성, 가설 생성과 검증까지 상당 부분을 대신할 수 있는 도구예요. Ai2는 이 도구를 프로비던스 스웨디시의 실제 암 연구에 투입했고, 그 결과물은 별도 글로 따로 다뤘다고 밝혔어요. 이번 행사에서는 그 협업 사례를 출발점으로 삼아, 지금의 AI 과학연구 시스템이 아직 갖추지 못한 것이 무엇인지를 발표와 패널 토론으로 짚었고, 다섯 가지 과제가 반복해서 등장했어요. AutoDiscovery는 체험 페이지에서 직접 실행해 볼 수 있어요.

통계로는 놀랍지만 의학적으로는 말이 안 되는 가설

연구자 마줌더는 이 문제를 '과학적 감(scientific taste)'이라는 말로 설명했어요. 흥미로운 결과와 사소하거나 이미 알려졌거나 가능성이 낮은 결과를 구분하는 판단력인데, 지금의 AI-과학 시스템은 이 구분을 스스로 안정적으로 해내지 못한다는 거예요. AutoDiscovery가 실제로 그랬어요. 통계적으로는 눈에 띄는 가설을 여러 개 뽑아냈지만, 전문가의 맥락 없이는 생물학적으로나 임상적으로 말이 안 되는 것들이 섞여 있었어요. 연구자들이 자신의 전문 지식을 시스템에 반영하고 나서야 결과의 쓸모가 크게 올라갔다고 해요. 목표는 그 판단력을 AI에 통째로 넘기는 게 아니라, 연구자가 자신의 전문성과 우선순위, 문제에 대한 이해 변화를 시스템에 계속 반영할 수 있는 더 나은 방법을 마련하는 쪽에 있어요.

연구 방향이 바뀔 때 AI는 따라오나

과학 연구는 정해진 계획대로 흘러가지 않아요. 실험에서 예상 밖 결과가 나오거나, 새 논문이 기존 지식을 뒤집거나, 연구자가 데이터셋을 추가하거나 다른 도구로 바꾸거나 에이전트의 방향을 다른 발견 쪽으로 돌리는 일이 흔해요. 마줌더는 지금의 에이전트들이 이런 장기 연구 과정에서 조종하기가 여전히 어렵다고 봤어요. 연구자가 새 실험 결과와 새로운 발견이 들어올 때마다 에이전트의 지시나 맥락, 도구를 처음부터 다시 훈련하지 않고도 손볼 수 있어야 한다는 거예요. 지식을 최신 상태로 유지하는 문제와 행동을 조종하는 문제는 서로 떨어져 있지 않고 맞물려 있어요.

쉬운 일과 검증하기 어려운 일

또 다른 연구자 푼은 AI가 과학자를 돕는 방식을 두 갈래로 나눴어요. 문헌 정리나 정보 구조화처럼 사람이 이미 할 줄 알지만 지루하고 시간이 걸리는 일을 대신하는 '생산성 이득'과, 아직 아무도 생각하지 못한 메커니즘이나 실험을 제안하는 '창의성 이득'이에요. 생산성 이득은 검증이 상대적으로 쉽지만, 창의성 이득은 결과가 맞는지 확인하려면 추가 분석과 재현 실험이 필요해서 평가하기가 훨씬 까다로워요.

이 지점을 두고 학술지 Journal of Privacy and Confidentiality 편집자 플랙스먼이 실제 사례를 들었어요. 한 연구자가 AI 시스템으로 자신의 과거 논문에 실린 알고리즘을 다시 검증했는데, 시스템이 그중 한 편에서 오류를 찾아냈어요. 연구자는 이 지적을 직접 조사한 뒤 AI가 맞았다고 판단해 학술지에 논문 철회를 요청했다고 해요. 플랙스먼은 이 사례를 두고 "이건 검색이 아니라 연구다. 발견하고, 검증해야 한다"고 말했어요. AI의 판단을 그대로 받아들이는 게 아니라, 따져 볼 만한 무언가를 드러내 주는 데 그 가치가 있다는 뜻이에요.

AI는 증폭기다, 평등기가 아니다

분석 속도가 빨라진다고 해서 설계가 엉망인 연구나 나쁜 데이터가 고쳐지지는 않아요. 연구자 살레르노는 AI를 이런 의미에서 '증폭기'에 비유했어요. 잘 설계된 실험, 꼼꼼한 데이터 수집, 타당한 인과 추론을 더 강력하게 만들어 주는 동시에, 약한 가정과 잘못된 방법론도 그만큼 크게 부풀린다는 거예요. 데이터가 어디서 왔는지, 왜 수집됐는지, 누가 포함되고 배제됐는지, 겉보기 상관관계가 실제로 과학적·인과적으로 말이 되는지를 묻는 기초적인 질문이 오히려 더 중요해졌어요. AI로 더 많은 데이터를 분석하고 더 많은 가설을 시험할 수 있게 될수록, 이런 방법론적 결함이 미치는 영향도 함께 커지기 때문이에요.

실험실과 더 가깝게 연결된 AI

행사에서 나온 가장 야심 찬 구상은 AI가 독립된 '과학자'로 일하는 게 아니라 실험실과 더 밀착해 움직이는 그림이었어요. 연구자 트라바글리니는 수백 종의 세포 유형과 수천 개의 유전자가 얽힌 신경과학 프로젝트를 예로 들었는데, 한 사람이 문헌만으로 추적하기엔 관계가 너무 많다고 했어요. 에이전트가 이런 증거를 종합해 유망한 가설의 우선순위를 매기고, 나중에는 실험 장비와 직접 상호작용해 한 실험의 결과가 다음 실험을 이끌도록 돕는 방향이에요. 푼은 이를 보완하는 길로 더 정교한 생물학 계산 모델을 제시했어요. 개별 세포 모델과, 질병의 진행이나 치료 반응을 예측하는 '가상 환자' 사이를 잇는 다리로 '가상 조직'이라는 개념을 설명했어요.

에디터의 시선

이번 행사가 흥미로운 이유는 Ai2가 자기 도구의 성공만 늘어놓지 않고, AutoDiscovery가 실패한 지점부터 말했다는 데 있어요. 통계적으로 유의미해 보이지만 생물학적으로 헛소리인 가설을 뽑아낸 경험을 감추지 않고 공개했다는 건, 지금 AI-과학 도구들이 겪는 공통된 벽을 드러내는 솔직한 사례예요. 이 흐름은 최근 몇 달 이어진 의료·과학 AI 발표들과 같은 결을 타고 있어요. 구글이 AMIE에 영상·음성 진료 능력을 더한 것도, 결국 AI가 임상 판단에 얼마나 가까이 다가갈 수 있는지를 실험하는 과정이었고요.

이 정도 규모의 AI 보조 연구 도구를 실제 프로젝트에 붙여 보면 결론은 대체로 비슷해요 — 문헌 정리나 코드 작성 같은 정해진 작업에서는 확실히 시간이 줄지만, '이 결과가 정말 의미 있는가'를 가르는 순간에는 결국 사람의 판단이 다시 개입하게 돼요. 국내 제약·바이오 기업이나 연구팀이 이런 도구를 도입한다면, 처음부터 가설 생성 전체를 맡기기보다 문헌 검색과 데이터 정리 같은 검증이 쉬운 구간부터 넘기고, 도메인 전문가가 결과를 걸러내는 단계를 공정에 명시적으로 넣는 쪽이 훨씬 안전해요. AI가 뽑아낸 결과를 그대로 보고서에 옮기는 순간, 살레르노가 말한 '증폭기' 효과가 나쁜 방향으로 작동할 수 있어요.

앞으로 몇 달 안에는 이런 도구들이 실험실 장비와 더 직접 연결되는 시도가 늘어날 거예요. 가설 제안에서 멈추지 않고 실험 설계·실행까지 이어지는 폐쇄 루프를 시도하는 연구소가 나올 텐데, 그 성패는 모델 성능보다 연구자가 언제든 시스템의 방향을 되돌릴 수 있는 조종 장치를 얼마나 잘 만들었는지에 달려 있을 거예요.