코히어, 기업용 에이전트 플랫폼 North 2 공개

캐나다 AI 기업 코히어가 10월 5일 기업용 AI 에이전트 플랫폼 North 2를 공개했다. 여러 단계로 이어지는 에이전트 작업을 조율하는 오케스트레이션 시스템을 새로 설계했고, 세션이 바뀌어도 맥락을 기억하는 메모리와 관리자가 토큰 지출에 상한을 거는 비용 통제 기능을 넣었다. 코히어는 공식 X 계정에서 이번 판을 15개가 넘는 새 기능을 담은 「가장 큰 업그레이드」라고 소개했다. 코히어 모델만이 아니라 고객이 가져온 다른 회사 모델도 돌릴 수 있게 플랫폼을 열었다는 점이 가장 큰 변화다.

North는 코히어가 2025년 1월 대표 고객인 캐나다 은행 RBC와 함께 처음 공개하고 그해 8월 정식 출시한 플랫폼이다. 코히어는 지난 1년 동안 금융, 의료, 통신, 제조, 에너지, 공공 부문에 North를 배치하며 대규모 실제 운영 경험을 쌓았고, 그 경험이 North 2의 설계를 정했다고 밝혔다. 회사는 기업들이 에이전트를 도입하면서 보안이 충분하면 똑똑하지 않고, 똑똑하면 통제가 안 되고, 통제가 되면 운영비가 너무 비싸지는 선택을 강요받아 왔다며 North 2가 그 맞바꿈을 끝낸다고 주장했다.

새 오케스트레이션 시스템은 여러 단계 작업을 스스로 처리하다가 사람의 승인이 필요한 단계에서만 사람을 부른다. 간단한 프롬프트로 만든 에이전트와 자동화는 회사 전체에 공유돼, 다른 팀이 같은 업무 흐름을 처음부터 다시 만들 필요가 없다. 에이전트가 반복해 꺼내 쓰는 로직은 스킬로, 모든 에이전트가 참고할 문서와 자산은 공유 라이브러리로 묶는다. 대화창 안에서 자연어로 슬라이드, 대시보드, 문서, 간단한 앱의 시제품을 만들 수 있고, 반복 업무에는 미리 만든 템플릿과 끌어다 놓는 방식의 시각적 워크플로 빌더를 쓴다.

메탈이 확인한 코히어의 1분 35초 소개 영상은 이 흐름을 그대로 보여 준다. 사용자가 고객 신용 데이터를 받아 점검하고 분석하는 기업 신용 위험 대시보드를 만들어 달라고 하자 North가 데이터에 연결된 대시보드 앱을 내놓고, 경영진 보고용 스킬을 붙여 내용을 다시 정리한다. 이어 상업 신용 위험 평가 자동화를 금요일로 예약하고, 관리 화면에서 프롬프트와 응답의 개인정보 탐지와 프롬프트 인젝션 탐지를 켜는 장면이 나온다.

연결 범위도 넓혔다. 슬랙, 셰어포인트, 원드라이브, 아웃룩, 익스체인지, 지라, 리니어, 노션, 깃허브용 커넥터가 새로 들어갔고, 피치북, 크런치베이스, S&P 글로벌, 팩트셋 같은 금융 데이터 제공업체 연결도 계획돼 있다. 보안은 에이전트 단위로 건다. 관리 콘솔 North Admin에서 에이전트마다 가드레일을 적용하고, 자율성 정책으로 각 에이전트가 허가받은 행동만 하게 하며, 중요한 결정에는 사람의 감독을 요청하게 한다. 배포는 자체 서버, 고객 가상 사설 클라우드, 외부 연결을 완전히 끊은 에어갭 환경까지 고를 수 있고, SOC 2 타입 2와 ISO 27001, ISO 42001 인증을 갖췄다.

비용 통제는 이번 발표의 다른 축이다. North Admin은 토큰 사용량을 사용자와 에이전트 단위까지 추적하고, 관리자는 요청 수와 토큰 속도를 기준으로 사용자와 그룹별 소비 등급을 정하고 회사 전체 상한을 걸 수 있다. 한도에 닿기 전에 팀에 경고를 보내는 알림도 설정할 수 있다. 보도에 따르면 폴 테시에 코히어 AI 제품 부문 부사장은 비용 통제가 "AI 리더들에게 아마도 가장 빠르게 커지는 걱정거리"라며, 코히어가 아직 자체 모델 라우터를 넣지는 않았지만 수요를 확인하고 있다고 말했다.

모델 개방은 코히어로서는 자기 모델 사용이 줄어들 수 있는 결정이다. 보도에 따르면 North 2 고객은 앤스로픽, 오픈AI, 구글의 최신 모델이나 알리바바, 딥시크, Z.ai 같은 중국 기업의 더 싼 오픈소스 모델을 꽂아 쓸 수 있다. 테시에 부사장은 "많은 기업이 고객을 자기 생태계 안으로 점점 더 깊이 끌어들이려 하는데 빠져나갈 길이 없다"며 "우리는 의도적으로 다른 길을 택하고 있다"고 말했다. 그는 고객이 "묶여 있어서가 아니라 확실한 사실을 근거로 우리 모델을 선호하게 될 것"이라고 덧붙였다. 코히어는 엔비디아와의 협력으로 코히어 모델이 블랙웰과 호퍼 GPU에서 노드당 초당 토큰을 더 많이 낸다고 밝혔고, 카리 브리스키 엔비디아 생성형 AI 부사장은 이것이 North 2가 "더 적은 비용으로 더 많은 토큰을 내도록" 돕는다고 말했다.

고객 사례도 함께 나왔다. 진요한 LG CNS AI센터장은 "North는 에이전틱 AI를 실제 비즈니스 가치로 바꾸는 안전하고 실용적인 기반을 기업에 준다"고 말했다. LG CNS는 North를 사내에서 쓰면서 한국 고객사에도 공급하고 있다. 자와드 아마드 벨 사이버 최고기술·AI책임자는 North 덕분에 고객이 요구하는 통제와 프라이버시, 주권 요건을 처음부터 갖춘 채 보안 운영에 에이전틱 AI를 들일 수 있다고 밝혔다. 코히어 초기 투자사 래디컬 벤처스는 창업자와 통화하기 전에 팀이 읽는 브리핑을 준비하는 자동화를 North 위에 만들었다.

메탈은 코히어가 문서 파싱 모델 Parse 5를 출시한 소식을 보도한 바 있으며, 이번 발표는 코히어가 독일 AI 기업 알레프 알파와 합병 계약을 맺은 지 3주가 채 지나지 않아 나왔다. 합병 회사는 코히어라는 이름을 유지한다. 보도에 따르면 North의 다른 고객으로는 통신사 벨과 사우디 통신사 STC 그룹, 애스턴 마틴 F1 팀 등이 있다.

AI 엔지니어의 눈으로 보면 North 2의 무게는 모델이 아니라 하네스에 실려 있다. 개발자들이 코딩 에이전트로 일하는 방식을 바꾼 것처럼, 코히어는 재무·마케팅 같은 비개발 직군에게 미리 짜 둔 스킬과 에이전트 라이브러리를 건네 같은 변화를 일으키려 한다. 테시에 부사장은 "제품 자체가 사람들이 AI 도입 곡선을 오르도록 아주 잘 도와야 한다"고 말했다. 모델은 갈아 끼울 수 있게 열어 두고 메모리와 권한, 토큰 장부는 자기 플랫폼에 쌓는 구조로, 코히어는 규제가 무거운 산업의 에이전트 운영층을 차지하는 데 회사의 다음 성장을 걸었다.