SAFE 가이드라인

SAFE 가이드라인은 여러 AI 회사가 보안 사고 정보를 서로 몰래 숨기지 않고 한곳에 모아 나누기로 한 약속 같은 것이다. 예를 들어 한 회사의 AI가 시험 중 엉뚱한 곳을 공격하는 사고가 나도, 지금까지는 그 회사만 알고 넘어가는 경우가 많았다. SAFE 가이드라인은 이런 사고 정보를 업계 전체가 들여다볼 수 있는 창고에 모아두자는 규칙이다.

비유하자면 항공기 사고 조사와 비슷하다. 한 항공사에서 사고가 나면 그 원인을 업계 전체가 공유해 비슷한 사고를 막는 것처럼, AI 회사들도 사고 사례를 모아 다음 사고를 예방하자는 취지다. 이 가이드라인은 정부가 강제하는 규제가 아니라, 리눅스 파운데이션이 이끄는 업계 협의체가 먼저 내놓은 자율적인 초안이라는 점이 특징이다.

2026년 8월 블랙햇 콘퍼런스에서 처음 초안이 나왔고, 이후 엔비디아·시스코·크라우드스트라이크 같은 회사들이 참여해 더 다듬은 의견수렴안이 나왔다. 정부 규제보다 먼저 업계가 자체적으로 정보 공유 표준을 만들려는 시도라는 점에서 주목받고 있다.

기사에서는 "리눅스 파운데이션이 이끄는 오픈 시큐어 AI 얼라이언스도 지난 8월 블랙햇 콘퍼런스에서 AI 보안 사고 정보를 비공개로 모아 생태계 전반에 공유하는 SAFE 가이드라인 초안을 내놓았다"처럼 쓰인다. 오해하기 쉬운 점은 이것이 정부가 만든 강제 규제가 아니라, 업계 회사들이 자발적으로 참여하는 자율 협의체의 제안이라는 것이다.