이중 활용 질의

이중 활용 질의란, 좋은 목적으로도 나쁜 목적으로도 쓸 수 있는 질문이나 요청을 뜻한다. 부엌칼을 떠올리면 이해가 쉽다. 칼은 요리에 쓰이지만 누군가를 다치게 할 수도 있다. 파는 사람도 사는 사람도 그 칼이 어디에 쓰일지 미리 알 수 없다. AI에게 던지는 질문도 마찬가지다. 예를 들어 어떤 병원균이 몸에 어떤 영향을 주는지 묻는 질문은 백신을 연구하는 과학자의 질문일 수도, 위험한 목적을 가진 사람의 질문일 수도 있다. 질문의 문장만 보면 의도를 구분하기 어렵다.

실제로 병을 치료하는 약을 만들려면 그 병을 일으키는 위험한 물질을 먼저 다뤄야 하는 경우가 많다. 백신을 만들려면 예방하려는 병원균을 직접 배양해야 하고, 어떤 혈압약은 독사의 독을 분리하는 과정에서 나왔다. 이렇게 위험한 지식과 유익한 지식이 한 몸처럼 붙어 있는 영역이 실제로 존재한다.

그래서 AI 회사들은 이런 질문을 걸러내는 문지기 역할의 시스템을 두는데, 처음에는 안전을 위해 관련된 질문을 통째로 넓게 막아버리는 경우가 많았다. 문제는 이렇게 하면 진짜 궁금해서 묻는 학생이나 환자, 의료인의 질문까지 함께 막힌다는 점이다. 최근의 개선 작업은 이 문지기를 더 세밀하게 다듬어, 진짜 위험한 질문과 그저 정상적인 궁금증을 담은 질문을 좀 더 정확히 구별하는 데 초점을 맞추고 있다.

기사에서는 "양성(benign) 질의와 이중 활용(dual-use) 질의 사이의 미묘한 차이를 더 잘 구별"하도록 안전 시스템을 개편했다고 설명한다. 오해하기 쉬운 점: 이중 활용 질의 자체가 나쁜 질문이라는 뜻은 아니다. 같은 질문이 상황에 따라 안전할 수도, 위험할 수도 있다는 뜻이며, 그래서 AI가 판단하기 까다로운 대상으로 분류되는 것이다.