사티아 나델라, AI 모델 내부자 위험 에세이 발표
마이크로소프트 CEO 사티아 나델라가 프런티어 모델을 내부자 위험처럼 다루고 침해를 전제로 처음부터 가둬야 한다는 에세이를 X에 올렸다. 권한과 기록, 정지 장치를 모델 바깥에 두라는 일곱 가지 설계 원칙을 제시했다.
김현국 에디터
매거진·서점·교육을 오래 해 온 편집자예요. 라이프스타일 매거진 <아카이브저널>을 발행하고, 아트 서점 <이라선>을 운영했으며, 라이카 아카데미에서 디렉터로 사진 교육 프로그램을 만들고 이끌었어요. 그 시선으로 전 세계 AI 소식을 독자에게 전하는 메탈(METAL) 매거진 편집장입니다.
METAL 발행인 · 아카이브저널 발행인 · 이라선 운영
마이크로소프트 CEO 사티아 나델라가 프런티어 모델을 내부자 위험처럼 다루고 침해를 전제로 처음부터 가둬야 한다는 에세이를 X에 올렸다. 권한과 기록, 정지 장치를 모델 바깥에 두라는 일곱 가지 설계 원칙을 제시했다.
AI로 디컴파일한 옛 게임의 웹 브라우저 이식판이 최근 몇 주 사이 수백 개 쏟아졌다. 개발자들은 URL 하나로 퍼지는 배포를 반겼고, 퍼블리셔의 게시 중단 요청은 다시 만드는 속도를 따라가지 못하고 있다.
프라임 인텔렉트 연구원 콘스탄틴 두나스가 컨텍스트 창 문제를 확장 가능하게 푸는 길은 에이전트 스웜뿐이라는 에세이를 공개했다. 컴팩션과 서브에이전트의 빈칸을 지속형 에이전트와 루트 없는 메시 구조로 메워야 한다는 주장이다.
앤스로픽 공동창업자 톰 브라운이 6월 백악관의 모델 차단 대치를 풀고 머스크와 월 12억5000만 달러 컴퓨팅 계약을 맺은 협상 창구로 떠올랐다. 국방부의 보안 위험 지정은 여전히 남아 있다.
프라임 인텔렉트가 코딩 에이전트 하네스 Prime Agent를 러스트로 다시 쓴 판을 내놓았다. 2주 동안 에이전트 2,000개 이상이 자기 코드를 옮겼고, 입력 대기 시간은 타입스크립트판보다 14.18배 빨라졌다.
로우스가 오픈AI 모델로 만든 AI 비서 Mylow와 Mylow Companion이 출시 이후 질문 수백만 건에 답했다. Mylow 이용 고객의 구매 전환율은 미이용 온라인 쇼핑객의 3배였고, 직원용 비서는 1,700개 매장 30만 명이 쓴다.
오픈AI가 마이크로소프트의 에이전트 격리 기술 MXC를 바탕으로 윈도용 Codex의 새 샌드박스 모드를 내놓았다. 관리자 승인 설정과 별도 계정, 방화벽 규칙 없이 운영체제가 파일·네트워크 경계를 강제한다.
앤스로픽이 클로드가 평가와 사내 사용 중 실제 웹사이트에서 벌인 네 가지 의도치 않은 행동을 정리한 첫 정기 보고서를 냈다. 필라델피아 경찰 제보 사이트에 가짜 살인사건 제보가 들어간 사례가 포함됐고, 회사는 모든 내부 평가의 실시간 인터넷 접속을 끊었다.
오픈AI가 Codex 데스크톱 앱에 사용자의 다음 메시지를 제안하는 컴포저 예측을 베타로 내놓았다. Tab 키로 받아들여도 자동 전송되지 않고, 베타 동안 예측 생성은 사용 한도에 잡히지 않는다.
앤스로픽이 클로드 코드 프로젝트 대기자 명단의 Pro·Max 구독자 전원에게 기능을 열었다. 함께 올린 4분 안내 영상은 코디네이터를 낮은 추론 강도로 두라는 비용 조언을 담았다.
아사나가 Codex의 GPT-6 Astra로 144회 실험을 돌려 스택AI 브라우저 에이전트의 1회 비용을 0.47달러로 낮췄다. 절감의 대부분은 모델 교체가 아니라 탐색 기록을 캐시에 담고 스크린샷을 몰아 지우는 설계에서 나왔다.
앤스로픽이 클로드 매니지드 에이전트에 동적 워크플로를 공개 베타로 열었다. 주 에이전트가 쓴 프로그램이 한 런에서 에이전트를 최대 1000개까지 단계별로 돌리고 결과를 합친다.