오픈AI, 폴란드 NASK와 AI 안전 연구 협약
오픈AI가 폴란드 AI 안전연구소 역할을 하는 NASK와 AI 시스템 평가·취약점 탐지·안전장치 연구 협약을 맺었다. NASK 산하 CERT Polska는 오픈AI 모델로 마이크로틱 라우터 취약점 6개를 찾아 패치를 이끈 바 있다.
40
태그
AI 안전
앤스로픽 연방 AI 안전 법안 초안 유출
앤스로픽이 의원실에 돌린 37쪽 연방 AI 안전 법안 초안이 유출돼 AI 안전 진영의 반발을 샀다. 모델 차단 문턱과 주법 선점이 쟁점이 됐고, 회사는 선점 문구를 고치겠다고 밝혔다.
20
앤스로픽, 싱가포르 사무소 개소·정부 MOU 체결
앤스로픽이 아시아태평양 다섯 번째 거점인 싱가포르 사무소를 열고 디지털개발정보부와 AI 안전·모델 평가 협력 MOU를 맺었다. 싱가포르는 인구 대비 클로드 사용량 121개국 중 2위다.
80
피치북, AI 안전 경고를 경쟁 해자로 분석
앤스로픽과 오픈AI의 AI 위험 경고가 상장과 중간선거를 앞둔 경쟁 해자라는 분석이 나왔어요. 트럼프 대통령은 같은 날 아모데이를 백악관 만찬에 부를 계획이에요.
20
중국, 미국발 AI 파국 경고에 공포 마케팅 의심
중국 업계와 여론은 미국 AI 연구소들의 파국 경고를 서구식 종말론이나 추격 견제로 읽어요. 당국은 안전 지침을 늘리지만, 서로를 믿지 못하는 구조가 협력을 막고 있어요.
20
오픈AI, 프런티어 AI 국제 표준 제안 발표
오픈AI가 9월 21일 미국이 각국과 함께 프런티어 AI 국제 기술 표준을 만들어야 한다고 밝혔어요. 호주와 캐나다, 일본 등 10개국 AI 안전연구소 네트워크를 활용하자는 구상이에요.
30
베선트 재무장관, 미중 AI 통보 기구 제안
스콧 베선트 미국 재무장관이 9월 20일 뉴욕 회담 뒤 미중 AI 사고 통보 기구를 제안했다고 밝혔어요. 같은 회담을 적은 중국 쪽 발표문에는 AI 관련 대화를 했다는 한 문장만 남았어요.
30
빌랄 추그타이, 딥마인드 사직 글로 AI 위험 경고
구글 딥마인드에서 AGI 안전·정렬 연구를 하던 빌랄 추그타이가 9월 14일 X 와 링크드인에 올린 사직 글로 AI 위험을 경고했어요. AI 가 우리 모두를 죽일 잠재력이 있다며 회사 간 경주를 멈출 조율과 투명성을 요구했고, 글은 하루 만에 56만 번 읽혔어요.
70
