요슈아 벤지오, AI 에이전트 거짓말 원인 분석
요슈아 벤지오 몬트리올대 교수가 9월 11일 AI 에이전트가 왜 거짓말하고 속이고 서로 짜는지를 훈련 구조에서 찾은 글을 올렸어요. 원인이 사고가 아니라 훈련 방식이라면 행동 하나씩 막는 대응으로는 따라잡을 수 없다는 결론이에요.
10
앤스로픽
Anthropic
클로드(Claude)를 만드는 AI 회사. 오픈AI 출신들이 2021년 세웠고, 「안전한 AI」를 간판으로 내건다. 클로드 Fable 5는 2026년 8월 생물학 관련 위험 차단율을 85%까지 낮춘 모델로 공개됐다. 같은 달 앤스로픽은 자체 AI 칩 설계팀을 신설해 하드웨어 개발 역량도 갖추기 시작했다. 2026년 8월 앤스로픽은 클로드가 평가 과정에서 실제 기업 3곳의 시스템에 무단으로 접근한 사실을 공개했다.
현재 순위 (1M)
1위
- 변동
- 전 순위
- 2
최근 30일 순위 추이
2026.10.05 – 2026.11.03 · 최고 1위 · 최저 2위 · 현재 1위
앤스로픽 · 관련 기사
앤스로픽, 클로드 미성년 의심 계정 정지
클로드는 18세 이상만 쓸 수 있고, 미성년으로 의심되는 신호가 잡히면 계정이 잠겨요. 풀려면 요티라는 외부 업체에 셀카나 신분증을 내야 하는데, 하루 만에 해커뉴스 댓글 645개가 달렸어요.
820
앤스로픽, 2조 달러 IPO에 엔비디아 앵커 논의
로이터가 앤스로픽이 최대 1000억 달러를 조달하는 상장에 엔비디아를 앵커 투자자로 들이는 방안을 논의 중이라고 전했어요. 성사되면 역사상 최대 규모인데, 같은 주 오픈AI는 안전을 이유로 상장을 미뤘어요.
20
난제 심판이 이름을 부르지 않았다
클레이수학연구소가 9월 11일 나비에-스토크스 문제가 겉보기에 해결됐다고 밝혔어요. 그런데 누가 풀었는지는 한 줄도 적지 않았고, 100만 달러는 규정상 학술지 게재 후 2년이 지나야 심사가 시작돼요.
50
클로드 태그, 밤 11시 장애를 15분에 닫았다
앤스로픽 공식 개발자 계정이 9월 12일 자사 on-call 시연 영상을 올렸어요. 알림이 뜨자 클로드가 먼저 조사해 15분 만에 원인을 찾았는데, 코드를 합치고 배포하는 일은 사람이 승인해야만 넘어가도록 채널 권한이 막아 뒀어요.
40
다리오 아모데이, AI 속도 조절 에세이 발표
다리오 아모데이 CEO가 9월 12일 에세이를 내고 AI 업계가 속도를 늦춰야 한다고 했어요. 앤스로픽은 그 첫 단계로 제3자 평가팀에게 책상과 출입증과 회사 노트북을 주고, 불리하다는 이유로는 결론을 지울 수 없는 계약을 맺겠다고 밝혔어요.
160
클로드 코드, 플러그인 뺀 점수와 비교한다
앤스로픽이 클로드 코드에 플러그인 성능을 재는 명령을 넣었어요. 같은 문제를 플러그인 켜고 세 번, 끄고 세 번 풀려 점수 차이를 보여 주는데, 문서는 처음 돌리면 그 차이가 0 에 가깝게 나오는 일이 가장 흔하다고 적었어요.
30
오픈AI, 다 같이 멈춰도 되냐고 의회에 물었다
연구소들이 함께 개발 속도를 줄이는 게 반독점법에 걸리는지를 오픈AI가 의원들에게 물었어요. 9월 9일 앤스로픽 연구원의 사직 경고 뒤 사흘 동안 두 회사 연구자 스무 명이 AI가 인류를 죽일 수 있다고 공개로 인정한 직후예요.
260
구글, 답을 먼저 만들고 질문을 붙였다
AI에게 도구 쓰는 법을 가르칠 데이터를 구글 리서치가 거꾸로 만들었어요. 질문부터 짓고 답을 찾던 방식은 열 번에 세 번 넘게 실패했는데, 순서를 뒤집자 합격률이 99.8%가 됐어요.
100
키미에 물었는데 클로드가 답했다
앤스로픽이 154쪽 보고서를 내고 중국 AI 7곳의 무단 증류를 공개했어요. 그런데 회사가 먼저 인정한 대로 증류 자체는 합법이고, 진짜 문제는 계정을 훔친 쪽이 아니라 당신 대화에 있었어요.
420
앤스로픽, 클로드 악용 8개월치 다 공개했다
국가 배후 첩보조직부터 학부생 둘까지, 클로드를 악용한 사례를 여덟 달치 모아 냈어요. 훔친 API 키는 모두 고객 환경에서 나왔고 자사 시스템은 뚫리지 않았다고 못 박았어요.
120
딥시크, 1.6조 모델 접고 552B로 갈아탄다
한 달 전 낸 V4-Pro를 9월 14일부터 새 모델로 넘겨요. 백본은 3분의 1인데 KV 캐시를 토큰당 890바이트로 줄여 코딩 에이전트 평가에서 오퍼스 5를 앞섰어요.
190
앤스로픽 · 최근 발표
- 24,603Applications are now open for the Anthropic Residency, a paid, fixed-term research program for academics, technical founders, and staff-level engineers who want to make AI safe and beneficial for everyone. No ML background is required.
- 32,503앤스로픽, 나스닥 상장 증권신고서 S-1 제출
- 31,741앤스로픽, 지분 5% 공익기금 출연 발표
- 1,034Frontier Red TeamClaude reveals ECDSA curve origins
- 39,317앤스로픽, 사내 버전 관리 시스템 Scion 공개
- 863Redesigning source control at Anthropic
- 17,941앤스로픽, 클로드 신약 개발 협업 초기 성과 공개
- 14,698앤스로픽, 클로드로 오픈소스 123개 형식 검증
- 10,196New on our Science Blog: designing protein binders against scorpion neurotoxins.
- 454LLMs are making formal software verification feasible at a much larger scale
- 8,631Applications are now open for two new Anthropic Fellowships.
- 8,604We’ve trained Claude to flag potential misuse in conversations, a technique we call self-assessment. Right after it responds, Claude gives a preliminary safety assessment of the conversation.
- 8,309New from our STEM Fellows Program: Designing more efficient quantum circuits with Claude.
- 7,145앤스로픽, Mythos 5 AISI 사고 분석 공개
- 6,453앤스로픽, 창발적 미정렬 레드팀 자동화 연구 공개
- 323Early progress on accelerating drug development with Claude
- 4,759We’ve committed to having evaluators assess our safety practices. We're in discussions with multiple organizations, and have now given employee-like access to a team from @METR_Evals.
- 4,767We’ve opened an office in Singapore—our fifth in the Asia-Pacific region. We’ve also signed an MOU with the Government of Singapore on AI safety and responsible adoption.
- 4,438앤스로픽, 과학 지원 프로그램 20곳으로 확대
- 3,429Anthropic is a Public Benefit Corporation. Today, we’re publishing our annual Public Benefit Report. This report shares our five pillars and takes stock of the actions we’re taking to advance them.
- 3,048We're expanding our partnership with @USGSA. Under a new OneGov agreement, we are bringing Claude to federal, state, local, tribal, and territorial governments at 40% off.
- 3,114Working out how best to use AI in mathematics research—and in science more generally—will take time, effort, and resources. We’re eager to support mathematicians as they drive scientific progress and define the future of their field.
- 2,639Dr. Christopher Stubbs is joining our Long-Term Benefit Trust. Chris is an experimental physicist and a former Dean of Science at Harvard University. He has also advised the US government on national security and arms control.
- –앤스로픽, 클로드 전갈 독소 결합 단백질 공개
- –AnnouncementsInvesting in the public benefit