오픈AI, 자체 추론칩 할라피뇨 연내 투입

풀어서 설명하면, 오픈AI는 지난 9월 3일 새 모델 GPT-6 아스트라를 공개했고, 이 모델은 이틀 전 오픈AI 자체 기준으로 사이버보안 '치명적' 등급을 받은 첫 사례이기도 해요. 또 오픈AI 리서치팀은 이미 사람 노동 하루당 에이전트 노동 3.1일을 쓴다는 수치를 발표한 적이 있어요. 이번 글은 이 두 소식을 다시 인용하면서, 자체 추론칩 할라피뇨까지 더해 오픈AI가 매출과 비용을 어떻게 함께 관리하는지 설명하는 내용이에요.

프라이어가 제시한 규모부터 보면, 챗GPT와 챗GPT 워크, 코덱스를 합쳐 주간 활성 사용자가 10억 명을 넘고 기업 고객은 250만 곳에 이른다고 해요. 개인 사용자를 추적한 자체 연구에서는 가입 후 6개월이 지난 시점의 일일 메시지량이 첫 한 달보다 약 50% 늘었고, 사용자가 시도해 본 작업 종류도 약 두 배로 늘었다고 전했어요. 광고 기반 무료 이용으로 AI의 쓸모를 처음 알게 하고, 이후 구독과 사용량 기반 요금제로 지출을 늘리게 하는 구조가 이 성장을 뒷받침한다는 설명이에요.

비용 쪽 수치도 함께 나왔어요. GPT-5.6 Sol이 프로덕션 서빙 소프트웨어 개선에 쓰이면서 종단 간 서빙 비용을 20% 줄였고, 추가 개선으로 토큰 생성 효율이 15% 이상 높아졌다고 밝혔어요. 같은 컴퓨트로 더 많은 결과물을 뽑아낼 수 있게 됐다는 뜻인데, 이런 소프트웨어 단의 절감이 하드웨어 단의 절감과 맞물리면서 이번 글의 핵심 소식인 할라피뇨로 이어져요.

할라피뇨는 오픈AI가 처음 내놓는 자체 맞춤 추론칩이에요. InferenceX 테스트에서 공개된 모델 3종을 돌려본 결과, 정격 전력 기준으로 정규화했을 때 와트당 최대 토큰 처리량이 상용 시스템보다 1.5배에서 1.9배 높았고, 종단 간 지연시간은 1.7배에서 3.6배 낮았다고 전했어요. 오픈AI는 연말까지 이 칩을 엔비디아, AMD 등 다른 파트너의 가속기와 나란히 배치할 계획이라고 밝혔어요. 자체 칩을 만들면서도 기존 공급사를 완전히 대체하지 않고 병행하겠다는 뜻이에요.

프라이어는 오픈AI 블로그에 올린 글에서 "더 나은 모델은 새로운 일을 열어준다"고 썼어요. 이어 컴퓨트 효율이 그 일을 더 큰 규모에서 감당할 수 있게 만들고, 늘어난 매출이 다음 연구와 인프라를 뒷받침한다는 순환 구조를 설명했어요. 투자 판단 기준으로는 각 투자가 충족시킬 수요, 그 투자가 생산적으로 전환되는 속도, 투입한 자본에 걸맞은 수익인지를 함께 본다고 덧붙였는데, 이는 대규모 데이터센터 투자에 대한 시장의 의문에 미리 답하려는 취지로 읽혀요.

이런 메시지가 나온 시점도 눈여겨볼 만해요. 오픈AI와 앤스로픽은 지난달 중국 AI 경쟁자들의 추격에 맞서 가격을 낮춘 바 있고, 오픈AI는 GPT-5.6 Luna의 토큰 가격을 입력·출력 모두 80% 내렸어요. 가격을 낮추면서도 수익성을 지키려면 서빙 비용을 실제로 줄여야 하는데, 이번 글이 강조한 20% 비용 절감과 할라피뇨 칩 성능이 그 답으로 제시된 셈이에요. 국내에서도 삼성SDS가 오픈AI의 데이브레이크 프로그램에 국내 최초로 참여했다고 밝히는 등 오픈AI와의 기업 협력이 늘고 있는데, 오픈AI가 컴퓨트 비용을 낮출수록 이런 기업용 서비스의 가격 경쟁력도 함께 움직일 가능성이 커요.

이번 글이 던진 숫자들은 아직 오픈AI 스스로 공개한 내부 지표라는 한계가 있어요. 할라피뇨의 실제 배치 이후 성능이 InferenceX 테스트 결과와 얼마나 일치할지, 서빙 비용 20% 절감이 요금 인하로 얼마나 이어질지는 다음 분기 실적과 요금 정책에서 드러날 거예요. 결국 소비자와 기업이 서로를 키운다는 이번 서사의 진짜 검증대는 화려한 벤치마크가 아니라, 오픈AI가 낮춘 비용을 실제로 고객에게 넘겨주느냐에 달려 있어요.