OWASP 에이전틱 Top 10

OWASP 에이전틱 Top 10은 스스로 판단하고 행동하는 AI 프로그램이 안전하게 쓰이기 위해 조심해야 할 위험을 열 가지로 정리한 목록이다. 웹사이트나 앱을 만들 때 지켜야 할 보안 체크리스트를 오랫동안 정리해 온 비영리단체 OWASP가, AI가 사람 대신 이메일을 보내고 파일을 지우고 결제까지 하는 시대에 맞춰 새로 내놓은 목록이다.

비유하면 신입 직원에게 회사 카드와 사무실 열쇠를 통째로 맡길 때 생길 수 있는 사고를 미리 적어둔 안전 수칙집과 비슷하다. 신입 직원 역할을 하는 AI 에이전트가 누군가의 거짓 지시를 진짜 상사의 말로 믿고 따르거나, 필요 이상의 권한을 계속 쥐고 있거나, 기억해둔 정보가 몰래 바뀌는 상황들을 항목별로 짚어둔 것이다.

완성된 정답이라기보다 계속 손볼 초안에 가깝다. 에이전트를 만들거나 회사에 들여오는 사람들이 무엇을 미리 점검해야 하는지 알려주는 참고 지도 역할을 한다.

코딩 에이전트나 업무용 AI 에이전트를 쓰고 있다면 이렇게 물어보자. '이 에이전트가 외부 도구나 계정에 접근할 때 필요 이상으로 넓은 권한을 갖고 있는 곳이 있는지 점검해줘.' 또는 '이 에이전트가 사용자 지시가 아닌 다른 데이터(이메일, 문서, 웹페이지)에서 온 지시를 실제 명령으로 착각해 실행할 여지가 있는지 살펴봐줘.' 이런 식으로 목록의 위험 항목을 하나씩 짚어가며 점검을 요청할 수 있다.