ASIMOV-Agentic
AI 에이전트가 위험한 행동을 하지 않고 안전 규칙을 지키는지 평가하는 벤치마크·평가 체계를 가리키는 이름이다.
쉽게 말하면
ASIMOV-Agentic은 이름 자체가 뜻을 알려준다. 'ASIMOV'는 로봇이 사람을 해치지 말라던 소설 속 로봇 3원칙을 쓴 작가 아이작 아시모프에서, 'Agentic'은 스스로 판단해 행동하는 AI를 가리키는 말에서 왔다. 두 단어를 합치면 뜻이 분명해진다 — 스스로 움직이고 결정하는 AI가 사람에게 해를 끼치지 않고 안전한 규칙 안에서 행동하는지 시험하는 도구다.
비유하자면 신입 로봇 배달원에게 실제 도로에 내보내기 전 모의 시험을 치르게 하는 것과 비슷하다. 명령을 받았을 때 위험한 지름길을 택하지는 않는지, 규칙을 어겨서라도 목표만 달성하려 들지는 않는지 미리 확인하는 절차다. 사람이 직접 지켜보지 않아도 AI가 알아서 안전선을 지키는지 점검하는 시험대라고 이해하면 된다.