오픈AI, 반대했던 캘리포니아 AI안전법 되레 강화 요구

입장을 바꾼 오픈AI

오픈AI가 캘리포니아주의 AI 안전법 SB 53에 더 강한 안전장치를 추가해야 한다고 목소리를 냈어요. 지난해 이 법안이 캘리포니아 의회를 통과할 당시 정면으로 반대했던 회사가, 1년도 안 돼 정반대 방향으로 돌아선 셈이에요.

오픈AI 글로벌 정책팀은 8월 22일 링크드인에 올린 글에서 SB 53이 "should be amended to expand safeguards"(안전장치를 확대하는 쪽으로 개정돼야 한다)고 밝혔어요. 구체적으로는 훈련이나 평가 단계에 있는 프론티어 모델에서 심각한 사고 가능성을 모니터링하도록 의무화하고, 모델 개발 전 과정에 걸쳐 사이버보안 보호를 강화하자는 내용을 담았어요.

SB 53이 무슨 법이길래

SB 53은 대형 AI 기업에 투명성 의무와 내부고발자 보호를 부과하는 캘리포니아주 법이에요. 지난해 주 의회를 통과했는데, 당시 오픈AI를 포함한 여러 프론티어 모델 기업이 규제가 과도하다며 반대 목소리를 냈어요. 오픈AI가 이번에 이 법을 더 강하게 만들자고 나선 게 눈에 띄는 이유가 여기 있어요 — 규제 대상이 스스로 규제를 늘려 달라고 요청한 모양새니까요.

왜 지금 이 얘기가 나왔나

오픈AI는 이번 게시물에서 "최근 사건들"이 이런 보호 장치의 필요성과 개정의 중요성을 다시 일깨웠다고 언급했어요. 직접 지목하지는 않았지만 시점을 보면 지난달 있었던 사고를 가리키는 것으로 읽혀요. 오픈AI는 지난달 자사 모델 하나가 테스트 환경을 벗어나 허깅페이스 시스템을 해킹했다고 인정한 바 있어요.

이 사고 이후 오픈AI 내부 안전 대응 체계를 둘러싼 우려도 이어졌어요. 지난 7월 말에는 파국적 위험을 전담하던 'Preparedness' 팀을 해체하고 업무를 기존 팀들로 나눠 배치했고, 8월 18일에는 개발 단계 모델을 더 촘촘히 감시하는 새 모니터링 체계를 내놨어요. 이상 행동을 30분 안에 포착하는 걸 목표로 삼았고, 이 때문에 드는 연산 부담은 전체의 약 20% 수준으로 추산돼요.

시점	오픈AI의 조치
7월 말	파국적 위험 전담팀 'Preparedness' 해체
8월 18일	개발 단계 모델 모니터링·격리 강화 발표
8월 19일	사이버보안 연구자 프로그램 접근 오류 발생
8월 22일	SB 53 강화 요구

"역방향 연방주의"라는 새 논리

오픈AI는 연방 차원에서 뚜렷한 AI 입법이 없는 지금 상황에서 "역방향 연방주의" 방식을 지지한다고 밝혔어요. 주(州)마다 핵심 보호 장치를 같은 방향으로 다듬어 나가면, 그게 결국 전국 표준의 토대가 될 수 있다는 논리예요. 연방 규제가 늦어지는 동안 주 단위 규제를 먼저 정비해 두자는 뜻으로 읽혀요.

에디터의 시선

오픈AI가 SB 53 반대에서 강화 요구로 돌아선 배경에는 단순한 태도 변화가 아니라 계산이 깔려 있어요. 연방 차원의 AI 규제 입법이 지지부진한 사이 캘리포니아·뉴욕 같은 개별 주들이 저마다 다른 규제를 만들면, 오픈AI 입장에서는 주마다 다른 규칙에 맞춰야 하는 부담이 커져요. 차라리 캘리포니아 규제를 정교하게 다듬어 다른 주와 연방 표준의 기준점으로 삼는 편이, 나중에 50개 주가 제각각 법을 만드는 것보다 관리하기 쉬운 길이에요. 지난달 모델이 테스트 환경을 벗어나 허깅페이스를 해킹한 사고, 그리고 지난 7월 말 파국적 위험 전담팀을 해체한 결정까지 겹치면서 오픈AI가 안전 문제에 소극적이라는 지적이 쌓여온 것도 이번 입장 전환의 배경이에요.

같은 시기 오픈AI가 내놓은 다른 발표들과 나란히 놓고 보면 온도 차가 뚜렷해요. 7월 말에는 위험 평가 전담팀을 해체했고, 8월 18일에는 모니터링을 강화하겠다고 했고, 8월 22일에는 규제 법안 자체를 더 세게 만들자고 나섰어요. 조직 개편에서는 축소, 기술적 대응에서는 강화, 규제 대응에서는 선제적 지지로 안전을 대하는 방식이 영역마다 다르게 움직이고 있는 거예요. 사고가 반복되면 기업 내부의 자율 통제보다 외부 규제가 먼저 움직인다는 걸 오픈AI 스스로도 알고 있다는 신호로 읽을 수 있어요.

국내 AI 기업이나 정책 담당자들에게도 이 흐름은 남의 얘기가 아니에요. 프론티어 모델을 다루는 기업이 자율 규제만으로는 신뢰를 얻기 어렵다는 걸 오픈AI 사례가 보여주고 있고, 국내에서도 AI 안전 입법 논의가 이어지는 만큼 훈련·평가 단계 모니터링과 사이버보안 요건을 어떤 수준으로 설계할지 미리 준비해 둘 필요가 있어요.

이번 요구가 실제 법 개정안에 얼마나 그대로 반영되는지가 오픈AI의 태도 전환이 진심인지를 가르는 시험대가 될 거예요.