업리프트

업리프트란 AI가 누군가에게 원래는 혼자 힘으로 얻기 힘든 위험한 지식이나 기술을 손쉽게 쥐어주는 상황을 뜻한다. 마치 사다리가 없으면 절대 못 넘을 담을, AI라는 사다리 덕분에 훌쩍 넘어가게 되는 것과 비슷하다. 여기서 문제는 그 담 너머에 있는 게 생물무기 제조법 같은 것일 때다.

예를 들어 어떤 AI 모델이 전문가 수준의 생물학 지식을 갖췄다면, 의사나 연구자에게는 큰 도움이 되지만 나쁜 의도를 가진 사람에게는 원래 인터넷 검색이나 논문만으로는 도달하기 힘들었던 위험한 능력을 손에 쥐여주는 셈이 된다. 그래서 AI 회사들은 모델이 특정 분야에서 너무 유능해지면, 그 유능함이 누구에게나 똑같이 좋은 방향으로만 쓰이지 않는다는 점을 걱정한다.

이 때문에 생물학처럼 한 번 잘못되면 되돌리기 어려운 분야에서는, 모델이 실제로 그런 업리프트를 제공할 수 있는지를 평가하고, 위험하다고 판단되면 해당 요청을 더 약한 모델로 돌리거나 아예 답변을 막는 식으로 대응한다.

기사에서는 "Fable 5는 악의적 행위자에게 다른 곳에서는 얻을 수 없는 능력, 즉 실질적인 업리프트를 제공할 수 있다"는 표현으로 등장한다. 여기서 업리프트는 모델의 성능 자체를 가리키는 말이 아니라, 그 성능이 나쁜 의도를 가진 사람의 능력을 실제로 얼마나 끌어올리는지를 재는 위험 평가 개념이다.