오픈AI, 10대 무기 정보 제한·안전 보고서 발표

오픈AI가 챗GPT의 폭력 관련 대응을 공개하는 커뮤니티 안전 보고서를 6개월마다 내겠다고 10월 30일 발표했다. 같은 날 18세 미만 이용자가 받을 수 있는 무기 정보를 질문이 무해해 보여도 제한하고, 과거 대량 공격 사건을 재구성하는 답변을 모든 연령에서 줄이는 정책도 함께 내놨다. 오픈AI는 2026년 3분기에만 200건이 넘는 사안을 법 집행기관에 넘겼다고 밝혔다. 새 안전장치는 앞으로 몇 주에 걸쳐 순차 적용된다.

보고서의 일정과 범위는 구체적이다. 첫 보고서는 2027년 초에 나오며 2026년 하반기를 다룬다. 이후 6개월 간격으로 갱신한다. 오픈AI는 폭력 관련 피해가 실제로 어떤 모습으로 나타나는지 익명화한 사례를 싣고, 새 완화 조치와 정책 변경, 이를 뒷받침하는 데이터를 공개하겠다고 했다. 오픈AI는 발표문에서 "우리가 잠재적으로 해로운 콘텐츠를 어떻게 식별하고 검토하고 대응하는지에 대해 의미 있는 발견을 공유하겠다"고 밝혔다.

모든 이용자에게 적용되는 경계도 좁아진다. 챗GPT는 이미 폭력을 계획하거나 실행하도록 돕는 지시를 하지 않게 학습돼 있다. 이번에는 과거 대량 공격과 그 가해자에 관한 질문에 덜 상세하게 답하도록 바꾼다. 그 정보가 다른 온라인 출처에 있어도 마찬가지다. 사용된 무기와 장비, 그 입수 경로, 가해자의 악명을 키울 수 있는 피해 규모 비교가 제한 대상이다. 사건을 이해하고 피해자와 공동체가 입은 영향을 살피며 경고 신호와 예방을 배우는 질문은 계속 받는다. 이 제한은 이용자의 나이나 질문 이유와 상관없이 적용된다.

대화의 맥락을 읽는 장치도 확장된다. 오픈AI는 5월에 앞선 대화의 경고 신호를 짧은 사실 요약으로 남겨 뒤의 대화에서 더 신중하게 답하는 방식을 공개했다. 이번에는 최근 대화에 폭력 가능성의 경고 신호가 있으면 오용될 수 있는 정보를 더 보수적으로 내주도록 한다. 18세 미만으로 추정되는 이용자에게는 폭력 의도의 흔적이 없어도 이 엄격한 기준을 적용하는 작업을 진행 중이다. 누군가 폭력이나 타인에게 심각한 해를 끼치는 생각에 몰두하는 신호가 보이면 챗GPT가 대화를 스스로 끝낼 수 있게 된다. 같은 이유로 대화가 여러 번 끊기면 계정을 일시 정지할 수 있다. 오픈AI는 정신건강 전문가, 폭력 예방 전문가와 함께 더 이른 자동 개입 방법을 만들고 있다고 설명했다.

10대 보호는 의도와 무관한 정보 차단으로 넘어간다. 기존 정책은 누구에게든 폭력의 계획과 실행을 돕지 않고, 10대가 무기를 찾거나 구하는 일을 돕지 않는 수준이었다. 이번에는 폭력 의도가 보이지 않아도 폭력에 악용될 수 있는 무기와 보안 시스템의 실용 정보를 10대에게 제한한다. 오픈AI는 발표문에서 "10대는 여전히 챗GPT로 폭력을 예방하고 진정시키며, 도움을 구하고, 믿을 만한 어른과 연결될 수 있다"고 밝혔다.

이 장치는 연령 추정이 정확해야 작동한다. 오픈AI는 행동 패턴 같은 여러 신호로 이용자가 18세 미만인지 추정하는 연령 예측 시스템을 강화해, 사용하는 동안 새 신호를 계속 평가하고 필요하면 18세 미만 환경으로 옮기도록 했다. 잘못 분류된 성인은 연령 인증 협력사 페르소나(Persona)를 통해 성인임을 확인하고 추가 보호를 해제할 수 있다. 보도에 따르면 오픈AI는 1월 20일 소비자 요금제에 연령 예측을 적용하기 시작했고, 8월 25일에는 유럽연합(EU) 출시가 진행됐다.

부모 쪽 알림도 늘어난다. 부모와 10대의 계정을 연결하는 보호자 통제 기능에는 전문 교육을 받은 검토자가 심각한 자해 우려나 섭식장애와 관련될 수 있는 행동을 확인할 때 보내는 안전 알림이 있다. 오픈AI는 7월에 10대 계정이 폭력 관련 이용 정책 위반으로 비활성화되면 부모에게 알리도록 이 알림을 넓혔다. 폭력을 반복해서 말해 계정이 일시 정지될 때도 부모에게 알리는 기능을 준비하고 있다.

이번 발표는 회사가 자기 역할을 다시 정의하는 대목에서 읽힌다. 오픈AI는 발표문에서 "AI 기업은 법 집행기관, 가족, 정신건강 전문가, 정책 입안자와 나란히 고유한 역할을 맡고 있다"고 밝혔다. 법 집행기관 연계는 이미 있었지만, 6개월 주기 보고서는 그 판단의 기준과 결과를 바깥에서 검증할 수 있는 기록으로 남기겠다는 약속이다. 사회학의 언어로 보면 플랫폼이 사적 조정 규칙을 공적 회계의 형식으로 옮기는 과정이다. 보고서가 신뢰를 얻으려면 몇 건을 걸러 냈는지뿐 아니라 무엇을 놓쳤는지도 같은 무게로 실려야 한다. 대화 종료와 계정 정지 같은 자동 개입이 늘수록, 잘못 끊긴 대화가 얼마였는지가 다음 질문이 된다.

메탈은 챗GPT가 13~17세 전용 틴 모드를 도입한 소식과 오픈AI가 다섯 가지 가치로 모델 스펙을 개정한 소식을 보도한 바 있다. 메탈이 확인한 10월 30일 발표문은 8월의 틴 모드가 기본 보호를 깔았다면, 이번 조치는 질문의 겉모습이 아니라 이용자가 누구로 추정되는지와 앞선 대화에 무엇이 있었는지로 답의 범위를 정한다는 점을 분명히 한다. 오픈AI는 실제 폭력이 여러 요인이 얽힌 복잡한 문제라며 안전장치를 계속 다듬고 배운 것을 공유하겠다고 했다. 2027년 초 첫 보고서가 그 약속의 첫 장부가 된다.