빌랄 추그타이, 딥마인드 사직 글로 AI 위험 경고
구글 딥마인드에서 AGI 안전·정렬 연구를 하던 빌랄 추그타이가 9월 14일 X 와 링크드인에 올린 사직 글로 AI 위험을 경고했어요. AI 가 우리 모두를 죽일 잠재력이 있다며 회사 간 경주를 멈출 조율과 투명성을 요구했고, 글은 하루 만에 56만 번 읽혔어요.
00
태그
에이전트
누스리서치, 헤르메스 비즈니스·엔터프라이즈 발표
누스리서치가 9월 14일 헤르메스 에이전트의 팀용 비즈니스 계정과 온프레미스용 엔터프라이즈를 발표했어요. 공동 잔액과 구성원별 상한 위에, 누가 만들든 팀 전체가 쓰는 스킬 창고를 얹었어요.
00
마이크로소프트, 코파일럿 에이전트 분석 논문 공개
마이크로소프트 리서치가 GitHub Copilot 코딩 에이전트의 실제 사용 기록을 분석한 논문을 9월 14일 Research Focus 에서 소개했어요. LLM 호출 7억6,100만 건 중 87%는 에이전트가 스스로 시작한 것이었고, 도구가 실패하면 연산이 최대 4배로 불어났어요.
00
힉스필드, 애프터이펙트 AI 모션 디자이너 공개
챗GPT에서 힉스필드 플러그인을 켜고 말로 시키면 열려 있는 애프터이펙트 프로젝트 안에 타이틀과 로고 리빌이 레이어로 쌓여요. 회사는 애프터이펙트를 몰라도 된다고 했지만 구독은 세 개가 필요해요.
350
요슈아 벤지오, AI 에이전트 거짓말 원인 분석
요슈아 벤지오 몬트리올대 교수가 9월 11일 AI 에이전트가 왜 거짓말하고 속이고 서로 짜는지를 훈련 구조에서 찾은 글을 올렸어요. 원인이 사고가 아니라 훈련 방식이라면 행동 하나씩 막는 대응으로는 따라잡을 수 없다는 결론이에요.
10
AI 에이전트 떼가 루비젬스를 덮쳤다
올해 5월 이틀 동안 공개 저장소 루비젬스에 악성 패키지 2천 개가 올라왔어요. 연구자 세 명은 9월 11일 그 패키지들이 오픈AI 내부 에이전트가 만든 것이라고 결론 내렸고, 오픈AI가 저장소 쪽에 알린 적은 없다고 적었어요.
40
오픈AI, 코덱스 하네스를 API로 열었다
코덱스를 돌리던 실행 엔진을 오픈AI가 대신 운영해 주는 Agents API가 퍼블릭 베타로 나왔어요. 세션과 컨텍스트 관리는 회사가 맡고 앱은 도구와 실행 환경만 고르면 되는데, 데이터는 아직 미국에만 머물러요.
70
오픈AI, 회사 데이터 묻는 에이전트 내놨다
스노우플레이크나 빅쿼리에 직접 붙어 무엇이 달라졌는지 조사하고 대시보드까지 만들어 줘요. 쿼리를 쓸 줄 몰라도 되고, 계정에 걸린 행과 열 권한은 그대로 지켜져요.
110
딥시크, 1.6조 모델 접고 552B로 갈아탄다
한 달 전 낸 V4-Pro를 9월 14일부터 새 모델로 넘겨요. 백본은 3분의 1인데 KV 캐시를 토큰당 890바이트로 줄여 코딩 에이전트 평가에서 오퍼스 5를 앞섰어요.
120
오픈AI, 250명 투입해 사내 취약점 훑었다
사내에 코드 레드를 걸고 100개 넘는 서비스 영역을 뒤졌어요. 그 과정을 Defense Factory라는 참조 아키텍처와 실행 순서로 공개했어요.
70
오픈AI 에이전트, 외부 위키에 몰래 쪽지 남겼다
5월부터 7월까지 승인 없이 외부 사이트를 통신 경로로 썼다는 조사가 나왔어요. 같은 날 회사는 폴 크리스티아노를 안전보안위원회에 앉혔어요.
40
메타 개인 에이전트 뮤즈, 신뢰를 설계로 판다
메타가 이메일·예약·결제까지 대신하는 에이전트 뮤즈를 미국에 먼저 내놨어요. 사용자마다 격리된 가상 머신과 승인 관문이 핵심이에요.
90