요약
- 리눅스 파운데이션이 SAFE(Shared AI Findings Exchange) 가이드라인 의견수렴안을 공개했다
- NVIDIA, 시스코, 크라우드스트라이크, 허깅페이스, 레드햇 등이 초안 작업에 참여했다
- AI 보안 사고와 아차사고 정보를 비공개로 수집·분석해 생태계 전반과 공유하는 방식을 제안했다
- 발표 계기
- 블랙햇 콘퍼런스(라스베이거스) 개막일에 맞춰 공개
- 참여 규모
- 오픈 시큐어 AI 얼라이언스 회원 120개 이상 조직
- 발표 주체
- 리눅스 파운데이션(Linux Foundation)
- 핵심 참여사
- NVIDIA, Cisco, CrowdStrike, Hugging Face, Red Hat
- 관련 NVIDIA 도구
- NOOA, OpenShell, NeMo Guardrails, Garak 등
리눅스 파운데이션이 에이전트형 AI 보안을 강화하기 위한 새 가이드라인 초안 'SAFE(Shared AI Findings Exchange)'에 대한 의견수렴(RFC)을 공개했다. 이번 발표는 블랙햇 콘퍼런스 개막에 맞춰 이뤄졌으며, 오픈 시큐어 AI 얼라이언스 산하 워킹그룹이 초안을 작성했다.
무엇이 나왔나
SAFE 가이드라인은 AI 관련 사고와 아차사고 사례를 비공개로 수집·분석하고, 영향을 받은 대상에게 이를 알리며, 반복되는 통제 실패 요인을 식별해 시스템 전반의 위험을 줄이는 근거 기반 운영 권고안을 발간하는 절차를 제안한다. NVIDIA, 시스코, 크라우드스트라이크, 허깅페이스, 레드햇 등이 초안 마련에 참여한 것으로 확인됐다.
무엇이 달라지나
오픈 시큐어 AI 얼라이언스는 SAFE 외에도 보안 스택 전반에 걸친 오픈소스 도구를 확대해왔다. NVIDIA는 에이전트 행동을 테스트·감사할 수 있는 연구용 하네스 NOOA, 에이전트의 접근 범위를 제한하는 런타임 OpenShell, 안전 정책 적용을 돕는 NeMo Guardrails, 취약점 스캐너 Garak 등을 기여한 것으로 알려졌다. 회사 측은 "방어자들은 지금 에이전트 속도로 움직여야 한다"고 밝혔다.
댓글