MS 파운드리, 스타트업에 Fireworks AI 오픈

Azure 파운드리에서 Fireworks AI 정식 서비스 시작

마이크로소프트가 Azure 파운드리(Microsoft Foundry)에서 Fireworks AI 오픈 모델 추론 서비스를 정식 출시했다. 이번 출시로 스타트업은 GPU 클러스터를 직접 구축하거나 운영하지 않고도 Azure 환경 안에서 고성능·저지연 오픈 모델 추론을 사용할 수 있다. Fireworks AI가 추론 레이어를 담당하고, 파운드리는 배포·거버넌스·청구를 하나의 통제 창구에서 처리하는 구조다.

마이크로소프트는 이번 발표와 함께 AI 네이티브 스타트업을 위한 배포 설계 청사진도 공개했다. 이 청사진은 소규모 팀이 아이디어에서 MVP, 그리고 제품-시장 적합성(PMF)까지 반복 가능한 Azure 네이티브 방식으로 도달할 수 있도록 설계됐다.

왜 지금인가: 단일 폐쇄 모델 의존에서 벗어나기

많은 스타트업이 초기 프로토타입을 빠르게 만들기 위해 단일 폐쇄 모델 하나에서 시작한다. 문제는 이 결정이 제품 수명 주기 전반에 걸쳐 비용과 차별화 전략에 누적적인 영향을 준다는 점이다. Fireworks AI가 파운드리에 통합되기 전까지는 오픈 모델을 Azure에서 직접 서빙하려면 별도의 추론 인프라를 구축해야 했다.

이번 출시로 모델 선택, 파인튜닝, 동작 방식 조정이 모두 개발팀 손안에 들어온다. 워크로드 특성에 맞는 모델을 선택하고, 성능이나 비용 요건이 바뀌었을 때 일관된 API와 배포 워크플로우를 통해 모델을 교체하는 데 들어가는 재작업을 줄일 수 있다.

실제로 쓰려면: 아키텍처 구성과 과금 방식

기본 스택은 Azure 구독 안에서 완전히 동작하며, 애플리케이션 인프라에 모델 엔드포인트 하나만 있으면 시작할 수 있다. 단일 모델을 배포하고 Azure API Management를 통해 트래픽을 라우팅하는 것이 출발점이다. 이후에는 Azure Cache for Redis로 중복 추론 요청을 캐싱하고, 워크로드 특성에 따라 성능을 튜닝하거나 여러 모델 변형을 A/B 테스트하는 방식으로 확장할 수 있다.

과금은 페이-퍼-토큰 방식의 서버리스 추론을 기본으로 한다. 마이크로소프트 포 스타트업 프로그램에 가입한 팀은 스타트업 크레딧을 Data Zone Standard 배포의 Fireworks 모델 사용에 적용할 수 있으며, 지원 크레딧 규모는 최대 15만 달러다. 다만 PTU(Provisioned Throughput Units), 즉 예약 용량 방식에는 스타트업 크레딧이 적용되지 않는다. 핵심 엔지니어링 지표로는 백만 토큰당 비용을 추적할 것을 권고하고 있다.

아키텍처를 구성하는 주요 컴포넌트는 다음과 같다. Azure Container Apps는 추론 요청을 보내는 애플리케이션 또는 API를 호스팅하고, Azure Container Registry는 컨테이너 이미지를 저장한다. Azure Key Vault는 자격 증명과 엔드포인트 정보를 안전하게 보관하며, Azure Monitor는 옵션으로 관측성과 성능 인사이트를 제공한다.

파인튜닝과 커스텀 모델 가중치 반입

워크로드가 안정화된 이후에는 평가 슈트, 프롬프트 라이브러리, 등급이 매겨진 프로덕션 트래픽을 학습 데이터로 활용해 모델을 파인튜닝할 수 있다. Fireworks Training을 통해 파인튜닝한 뒤, 자체 가중치 반입(Bring Your Own Weights) 방식으로 Azure에 임포트하는 경로를 지원한다. 커스텀 모델 가중치를 직접 가져오는 것도 가능하다.

한계와 공개되지 않은 사항

스타트업 크레딧이 PTU 방식에는 적용되지 않는다는 점은 예약 용량 기반으로 확장을 검토하는 팀이 사전에 인지해야 할 제약이다. Azure Monitor를 통한 관측 기능은 옵션으로 제공되며 필수가 아니다. 지원되는 구체적인 오픈 모델 목록과 토큰당 단가는 소스에 명시되지 않았다.