런타임 인스턴스

런타임 인스턴스는 AI 에이전트를 위한 장기 투숙용 호텔 방 같은 컴퓨터 자원이다. 회의실을 한 시간 빌려 쓰고 나가는 것과, 방을 통째로 며칠씩 빌려 짐도 풀어놓고 계속 머무는 것은 다르다. 코드를 컴파일하거나 보안 검사를 하는 것처럼 오래 걸리는 작업은 잠깐 쓰고 끄는 방식으로는 처리하기 어려운데, 런타임 인스턴스는 이런 작업을 위해 최대 14일까지 꺼지지 않는 방을 에이전트에게 내준다.

이 방은 혼자 쓰는 게 아니라 여러 에이전트가 같은 방을 공유하는 룸메이트 구조로도 쓸 수 있다. 코드를 쓰는 에이전트와 그 코드를 검토하는 에이전트가 같은 파일 시스템을 나눠 쓰면서, 파일을 주고받는 절차 없이 바로바로 서로의 작업물을 확인할 수 있다. 필요할 때는 그래픽 연산에 특화된 칩(GPU)에도 접근할 수 있어 무거운 연산도 처리할 수 있고, 쓰지 않을 때는 방을 잠깐 잠가두듯 정지시켜 비용을 아낄 수도 있다.

반대로 짧고 빠른 작업, 예를 들어 API 호출 몇 번 하고 끝나는 일에는 이런 장기 투숙형 방이 오히려 낭비다. 그래서 AWS는 최대 8시간짜리 짧은 자원(마이크로VM)과 런타임 인스턴스를 나눠두고, 작업 성격에 맞게 골라 쓰거나 두 가지를 함께 조합하도록 설계했다.

기사 원문에는 "AWS가 Amazon Bedrock AgentCore Runtime에 '런타임 인스턴스(runtime instances)'라는 새 컴퓨트 옵션을 발표했다"고 나온다. 여기서 오해하기 쉬운 점은 런타임 인스턴스가 별도의 새 제품이라는 것인데, 실제로는 기존 AgentCore Runtime 안에 추가된 하나의 실행 방식(옵션)이며 기존의 짧은 실행형 방식과 함께 선택해 쓰는 구조다.