이미지: AWS ML Blog
반복 티켓이 엔지니어를 잡아먹던 현장
모빌아이는 EyeQ 시스템온칩 2억 3,000만 개 이상을 약 1,200개 차종에 공급한 자율주행 분야 기업이다. 이 규모에 걸맞게 사내 데이터 수집·처리 파이프라인은 매일 수천 건의 주행 녹화 세션을 받아들이며, 그로 인한 상태 조회 요청이 끊이지 않았다.
문제는 각 조회가 '손이 많이 가는' 작업이었다는 점이다. 엔지니어들은 세션 식별·시각화 툴 교차 참조·출력 검증·로그 확인 등을 거쳐 답변을 작성했고, 이 과정에서 평균 15번의 클릭이 필요했다. 전체 지원 티켓의 66%가 이런 정형적인 상태 조회였다. 스크립트나 규칙 기반 자동화를 시도했지만, 실제 요청의 다양한 표현 방식에 대응하기엔 역부족이었다.
PoC에서 검증한 설계, 프로덕션으로
팀은 본격 도입 전 개념 증명(PoC) 단계를 밟았다. 목표는 티켓 분류 정확도 95%, 응답 시간 2분 이내였다. 에이전트는 Anthropic Claude 파운데이션 모델을 사용하며, 모빌아이 내부 LLM 게이트웨이를 통해 Amazon Bedrock에 접근한다. 이 게이트웨이는 모델 접근에 대한 거버넌스와 할당량 관리를 담당한다.
결정적인 구성 요소는 MCP(Model Context Protocol)였다. MCP 서버를 통해 에이전트는 추론 시점에 드라이브 데이터 처리 플랫폼의 API를 실시간으로 호출할 수 있었다. 덕분에 단순 분류를 넘어, 세션 완료 여부·오류 상세·디버깅 권장 사항·로그 링크까지 포함한 완성된 답변을 2분 이내에 제공할 수 있었다.
프로덕션 아키텍처: 온프레미스와 클라우드를 잇다
PoC 성공 후 가장 큰 과제는 모빌아이의 내부 티켓 시스템이 온프레미스에서만 운영되어 AWS에서 직접 접근이 불가능하다는 점이었다. 이를 해결하기 위해 두 환경에 걸친 하이브리드 아키텍처를 설계했다.
온프레미스 쪽에는 로컬 오케스트레이터가 위치해 신규 티켓을 추출하고, 에이전트가 생성한 응답을 다시 티켓 시스템에 등록한다. AWS 클라우드 쪽에서는 AgentCore 런타임이 에이전트를 서버리스로 실행하며, 서버 프로비저닝 없이 트래픽 급증에 자동 대응한다. 에이전트 호출은 단일 API 콜로 이루어진다. AgentCore 옵저버빌리티는 초기 요청부터 MCP 툴 호출, 최종 응답까지 전 과정을 추적하며, 세션 지표·레이턴시·토큰 사용량·트레이스를 기록한다. AWS Secrets Manager는 에이전트와 백엔드 시스템에 필요한 자격 증명을 저장·교체·조회하며, 최종 사용자가 직접 크리덴셜을 다루지 않아도 되게 한다.
워크플로는 네 단계로 흐른다. ① 로컬 오케스트레이터가 티켓을 추출해 AgentCore 런타임의 에이전트로 전송 → ② 에이전트가 MCP 서버로 실시간 세션 데이터를 조회하고 LLM 게이트웨이를 통해 Claude를 호출해 링크·권장 사항이 포함된 완성 답변 생성 → ③ 로컬 오케스트레이터가 응답을 티켓 시스템에 댓글·레이블과 함께 등록 → ④ AgentCore 옵저버빌리티가 전 과정을 기록.
실제 수치로 본 결과
프로덕션 배포 후 기록된 수치는 다음과 같다.
- 전체 성공률: 98% (목표 95% 초과 달성)
- 응답 시간: 수 시간 → 약 1분 (90% 단축)
- 자동화된 티켓 비율: 전체의 66%
- 월간 처리량: 100건 이상
모빌아이 수석 엔지니어 Shay Margalit은 "AgentCore 덕분에 엔지니어들이 루틴 조회에 쏟던 수백 시간을 되찾았다"고 밝혔다.
단일 에이전트에서 전사 플랫폼으로
성과가 확인되자 새로운 문제가 등장했다. 조직 내 대부분의 개발자는 AWS 자격 증명이나 인프라 접근 권한이 없어 AgentCore에 직접 배포할 수 없었다. 이를 해결하기 위해 모빌아이 클라우드 인프라 팀은 내부 에이전트 배포 플랫폼을 구축했다.
이 플랫폼에서 개발팀은 에이전트 코드와 필요한 AgentCore 기능(메모리·브라우저 툴·코드 인터프리터·옵저버빌리티·게이트웨이)을 명시하기만 하면 된다. 클라우드 인프라 팀이 AWS IAM 역할·Amazon S3 스토리지·Amazon CloudWatch 모니터링·Amazon Cognito 인증 등 인프라 전체를 프로비저닝하고, 개발자는 사전 구성된 bedrock_agentcore.yaml 파일을 받아 agentcore deploy 명령 하나로 배포를 완료한다.
한계와 공개되지 않은 부분
소스에서 공개된 수치와 아키텍처는 모빌아이 사내 환경을 기준으로 한다. 가격·과금 방식 등 Amazon Bedrock AgentCore의 비용 구조는 이번 소스에서 구체적으로 밝혀지지 않았다. 또한 온프레미스 연결 방식은 모빌아이의 특수한 환경을 전제로 설계된 것으로, 범용 적용 방법에 대한 설명은 소스에 포함되어 있지 않다.
