라이트알티엘엠

LiteRT-LM은 큰 언어 모델을 서버가 아니라 손 안의 기기 자체에서 돌아가게 해주는 실행 도구다. 모델 그 자체가 아니라, 이미 만들어진 모델을 스마트폰이나 라즈베리파이 같은 작은 컴퓨터에서 빠르고 가볍게 굴려주는 엔진에 가깝다.

비유하면 이렇다. 요리 레시피(모델)가 아무리 훌륭해도, 그 레시피대로 실제 요리를 해줄 주방과 도구가 필요하다. LiteRT-LM은 바로 그 작은 주방이다. 클라우드라는 거대한 산업용 주방 대신, 손바닥만 한 기기 안에서도 같은 요리를 만들어낼 수 있게 조리 도구를 최적화해 놓은 셈이다.

이 방식의 장점은 인터넷이 끊겨도, 데이터를 외부 서버로 보내지 않고도 기기 안에서 바로 답을 얻을 수 있다는 점이다. 실제로 구글은 이를 기반으로 오프라인에서 작동하는 음성 번역기 프로젝트를 공개하기도 했다.

기사에서는 "Gemma 4와 LiteRT-LM을 기반으로 동작하는 온디바이스 음성 번역기"처럼 등장한다. 여기서 LiteRT-LM은 번역 모델 자체가 아니라, 그 모델을 네트워크 연결 없이 기기 안에서 실제로 실행시켜주는 틀이라는 점을 헷갈리지 말아야 한다.