Baseten, 허깅페이스 추론 제공업체로 합류

허깅페이스(Hugging Face)가 자사 블로그를 통해 Baseten을 Inference Providers 목록에 추가했다고 밝혔다. Inference Providers는 허깅페이스 허브에 등록된 모델을 외부 인프라 제공업체의 서버에서 직접 실행할 수 있도록 연결해주는 프로그램으로, 이번 합류로 사용자들은 Baseten의 인프라를 통해 모델 추론을 이용할 수 있게 될 것으로 알려졌다.

다만 이번 발표는 제목 수준의 정보만 공개된 상태로, 구체적으로 어떤 모델들이 Baseten을 통해 제공되는지, 가격 구조나 성능상의 이점이 무엇인지는 확인되지 않았다. 통상 Inference Providers 프로그램에 새 업체가 합류하면 vLLM 등 추론 최적화 기술을 활용한 서빙이 뒤따르는 경우가 많았지만, 이번 사례에 해당 기술이 적용됐는지는 원문에서 밝혀지지 않았다.

허깅페이스는 그간 Together AI, Fireworks AI, Groq 등 여러 추론 인프라 업체를 Inference Providers에 순차적으로 추가해온 것으로 알려져 있으며, Baseten 합류도 이런 확장 흐름의 일환으로 보인다. 다만 이번 합류가 사용자 경험이나 비용 구조에 구체적으로 어떤 변화를 가져올지는 추가 확인이 필요하다.