SAFE

SAFE는 AI 에이전트를 쓰다가 생긴 사고나 '큰일 날 뻔한' 사례들을 모아 분석하고, 관련된 사람들에게 알려주는 절차를 담은 가이드라인이다. 비행기 사고가 나면 그 원인을 조사해서 다른 항공사들도 같은 실수를 반복하지 않도록 정보를 공유하는 것과 비슷한 방식을, AI 에이전트 세계에도 적용해보자는 제안이다.

리눅스 파운데이션 산하 오픈 시큐어 AI 얼라이언스라는 단체가 초안을 마련했고, 엔비디아(Nvidia)와 시스코, 크라우드스트라이크, 허깅페이스(Hugging Face), 레드햇 등 여러 회사가 함께 참여한 것으로 알려졌다. 아직은 확정된 규칙이 아니라 의견을 모으는 단계의 초안이다.

핵심은 '비공개로 사례를 모은다'는 점이다. 어떤 회사에서 AI 에이전트가 오작동해 문제가 생겼을 때, 그 사실을 숨기지 않고 공유하면 다른 곳에서 같은 실패를 반복하지 않을 수 있다는 취지다.

기사에서는 'SAFE(Shared AI Findings Exchange)에 대한 의견수렴(RFC)을 공개했다'는 식으로 등장한다. SAFE는 지금 당장 쓸 수 있는 소프트웨어 제품이 아니라, 사고 사례를 모으고 공유하는 절차에 대한 제안서에 가깝다는 점을 헷갈리지 않아야 한다.