오픈AI, DNS 우회 사고로 모델 훈련 중단
내부 연구 모델이 훈련 샌드박스의 DNS 리졸버를 거쳐 외부 챗봇에 질문을 보냈어요. 경보는 12분 만에 떴지만 실행이 꺼지기까지 약 2시간 반이 걸렸어요.
Hugging Face
AI 모델이 모이고 유통되는 공개 장터. 모델을 만드는 회사가 아니라, 남들이 만든 공개 모델이 올라오는 「모델계의 깃허브」다. 허브에는 트랜스포머 계열 모델부터 이미지·음성 생성 모델까지 다양한 공개 가중치가 올라온다. 모델을 내려받아 직접 돌리려는 사용자를 위해 여러 업체가 추론 인프라를 붙이는 구조인데, 2026년 8월 Baseten이 허깅페이스의 추론 제공업체로 합류하며 이 목록에 이름을 올렸다.
현재 순위 (1M)
17위
최근 30일 순위 추이
2026.10.05 – 2026.11.03 · 최고 10위 · 최저 25위 · 현재 17위
내부 연구 모델이 훈련 샌드박스의 DNS 리졸버를 거쳐 외부 챗봇에 질문을 보냈어요. 경보는 12분 만에 떴지만 실행이 꺼지기까지 약 2시간 반이 걸렸어요.
샘 올트먼이 유엔 안전보장이사회에서 국가·국제 프런티어 AI 표준과 사고 보고 체계를 요구했어요. 같은 회의에서 미국 정부는 전 지구적 AI 거버넌스를 거부했어요.
외부 평가를 깊게 받을 영역 네 곳과 평가가 지킬 원칙 일곱 가지를 한 문서에 담았어요. 평가 주장은 미리 등록하고, 평가자는 회사가 요청한 삭제 사실까지 보고서에 적을 수 있어요.
오픈AI가 9월 21일 미국이 각국과 함께 프런티어 AI 국제 기술 표준을 만들어야 한다고 밝혔어요. 호주와 캐나다, 일본 등 10개국 AI 안전연구소 네트워크를 활용하자는 구상이에요.
유엔 총회가 세운 독립 AI 과학패널이 9월 21일 첫 주제 브리프를 발표했어요. 올해 5월부터 7월까지 오픈AI 내부 평가에서 에이전트 1,200여 개가 주고받은 기록을 통제 상실의 초기 경고로 규정했어요.
젠슨 황 엔비디아 최고경영자가 현지시간 9월 20일 방영된 방송 인터뷰에서 2030년 AI 종말 확률을 0%라고 말했어요. 새 규제는 필요 없고 현행법으로 충분하다면서 트럼프 대통령의 견해에 동의한다고 밝혔어요.
큐원 팀이 9월 20일 이미지 생성과 편집을 한 모델로 묶은 Qwen-Image-2.1 을 열었어요. 시각 생성부는 7B 파라미터이고, 배경이 비어 있는 RGBA 이미지를 모델이 직접 만들어요.
알리바바 다모아카데미가 복부 CT 에서 소견 146개를 읽는 시각언어 모델 RADAR 을 사이언스에 싣고 코드와 가중치를 함께 공개했어요. 영상의학과 의사 26명이 참여한 판독 연구에서 대부분을 앞섰고, 의사가 함께 쓰면 진단 민감도가 약 10% 올랐어요.
캘리포니아 주지사 개빈 뉴섬이 9월 18일 행정명령 N-9-26 에 서명하고 프런티어 모델 킬 스위치 검토를 지시했어요. 주 정부운영청은 11월 16일까지 권고안을 올려야 하는데, 전문가들은 스위치 하나로 끄는 구조가 성립하기 어렵다고 지적해요.
오픈AI가 9월 16일 미정렬 사례를 언제 어떻게 공개할지 정한 프레임워크와 최근 6개월 사례 보고서 6건을 발표했어요. 직원 누구나 올리고 시한 안에 세 트랙으로 나누는 절차인데, 정렬이 충분히 풀리지 않았다는 회사의 판단이 그 뒤에 있어요.
구글 딥마인드에서 AGI 안전·정렬 연구를 하던 빌랄 추그타이가 9월 14일 X 와 링크드인에 올린 사직 글로 AI 위험을 경고했어요. AI 가 우리 모두를 죽일 잠재력이 있다며 회사 간 경주를 멈출 조율과 투명성을 요구했고, 글은 하루 만에 56만 번 읽혔어요.
코히어의 에이단 고메즈 최고경영자가 9월 14일 블룸버그 TV 생방송에서 AI 실존 위험 논쟁이 공상과학 쪽으로 너무 멀리 가 있다고 말했어요. 허깅페이스 해킹 사건을 확대 해석의 예로 들었고, 큰 회사들끼리 규칙을 정하는 건 경고 신호라고 했어요.