AI 안전성

AI가 사고를 치지 않게 만드는 연구·정책 분야 전체를 묶는 말입니다. 스펙트럼이 넓습니다 — 챗봇이 위험한 제조법을 알려 주지 않게 하는 것부터, 먼 미래의 초지능이 인류에 해가 되지 않게 하는 것까지.

앤트로픽이 「안전을 최우선으로」를 내걸고 오픈AI에서 갈라져 나온 회사라는 것, 주요 연구소들이 안전 보고서(모델 카드)를 내고 레드팀을 돌린다는 것 — 안전성 기사의 배경 지식은 이 정도면 충분합니다. 「안전이냐 속도냐」는 이 업계의 영원한 긴장입니다.