요약
- AWS ML 블로그가 Amazon Bedrock에서 실행되는 Codex의 OpenTelemetry 지표를 CloudWatch로 라우팅하는 아키텍처를 소개했다
- 개발자 워크스테이션의 로컬 수집기가 지표에 조직 정보를 더해 AWS SigV4로 서명 후 CloudWatch OTLP 엔드포인트로 전송한다
- 중앙 프록시나 별도 인프라 없이 사용자·팀·부서·비용 센터 단위로 채택 현황과 비용 관련 신호를 확인할 수 있다
- 발행처
- AWS ML Blog
- 핵심 기술
- OpenTelemetry, Amazon CloudWatch
- 인증 방식
- AWS IAM Identity Center, SigV4
- 제공 대시보드
- CodexOnBedrock 대시보드(24시간 롤링 지표)
- 비용 확인 방법
- AWS Cost and Usage Reports (CUR) 2.0
AWS가 코딩 에이전트 Codex를 Amazon Bedrock에서 사용할 때 발생하는 OpenTelemetry 지표를 Amazon CloudWatch로 연동하는 방법을 공개했다. 개발자가 IAM Identity Center로 로그인해 Bedrock을 모델 제공자로 Codex를 실행하면, 로컬 127.0.0.1에서 대기 중인 수집기가 지표를 받아 조직 컨텍스트를 더한 뒤 임시 자격증명으로 SigV4 서명을 거쳐 CloudWatch OTLP 엔드포인트로 전송하는 구조다.
이 방식은 모델 요청 경로에 중앙 프록시를 추가하지 않는다는 점이 특징이다. 참조 배포는 ECS 서비스, 로드밸런서, VPC, 공개 수집 엔드포인트 없이 CloudWatch 대시보드만 생성한다.
무엇을 볼 수 있나
기본 제공되는 CodexOnBedrock 대시보드는 활성 사용자, 대화 턴, API 요청, 토큰 사용량의 24시간 롤링 총계를 보여준다. 모델, 토큰 유형, 사용자, 부서, 팀, 비용 센터, 조직, 세션 소스별 뷰도 제공돼 채택 확산 여부와 소비 집중 지점을 파악하는 데 쓰일 수 있다.
AWS는 토큰 카운트가 청구 원장은 아니라는 점을 강조했다. 실제 비용은 가격 변경, 할인, 크레딧 등에 따라 달라질 수 있어 실질 지출 파악에는 IAM 주체 기반 비용 배분을 제공하는 AWS Cost and Usage Reports(CUR) 2.0이나 Bedrock 비용 관리 리포트를 사용해야 한다고 설명했다.
댓글