누군가 대신 결정을 내려주는 하루를 상상해 보자. 항공권을 고르고, 요금제를 갈아타고, 병원 예약을 잡는 일이 말 한마디로 끝난다. 그 대신 결정한 존재가 잘못 골랐을 때, 환불 창구에서 이름을 대야 하는 사람은 누구인가. 국민 한 사람에게 하나씩 AI 에이전트를 무료로 쥐여주겠다는 약속은 이 물음을 통과하지 않고는 정책이 되지 못한다.
에이전트는 챗봇과 다르다. 답을 말해주고 끝나지 않고, 사용자를 대신해 클릭하고 결제하고 신청까지 마치는 소프트웨어다. 보급 정책이 겨냥하는 성과는 명확하다. 얼마나 많은 국민이 이 도구를 쥐게 됐는가.
그런데 무료 공급이 선언된 같은 주에, 개인정보보호위원회는 네이버 에이전트가 이용자 데이터를 활용할 때 이를 거부할 선택지를 제대로 제공했는지를 문제 삼았다. 한쪽에서는 배포를 서두르고, 다른 쪽에서는 배포된 물건이 지켜야 할 최소 조건을 뒤늦게 따진다. 정책의 시계와 규칙의 시계가 어긋나 있다는 신호다.
이 글의 주장은 하나다. 보급률은 성과가 아니라 전제이고, 시급한 일은 에이전트가 대신 수행한 결정과 거래에 누가 답하는지, 그 과정에서 오간 개인 데이터를 이용자가 어디까지 되돌릴 수 있는지를 규칙으로 못 박는 것이다. 도구를 나눠주는 일보다 어렵고, 표도 덜 나는 일이다.
반대 논리는 만만치 않다. 규칙부터 짜다 보면 기술이 다 자라기 전에 틀을 씌워버리고, 그사이 해외 사업자가 시장을 가져간다는 우려다. 실제로 규제가 앞서 나갔다가 국내 사업자만 묶인 사례가 없지 않았다. 보급을 서두르고 규칙은 따라가면 된다는 말에는 그만한 근거가 있다.
그럼에도 에이전트는 달리 봐야 한다. 이 소프트웨어가 하는 일은 정보 표시에 그치지 않고 실행이기 때문이다. 잘못된 요약은 사용자가 걸러낼 수 있지만, 잘못된 결제와 잘못된 계약 동의는 되돌리는 데 돈과 시간이 든다. 실행 권한을 쥔 도구를 전 국민에게 배포하는 일은 나중에 고치기가 훨씬 비싼 종류에 속한다.
필요한 규칙의 윤곽은 복잡하지 않다. 에이전트가 어떤 행위까지 사용자 확인 없이 할 수 있는지, 손해가 났을 때 개발사·서비스 제공자·이용자 사이의 책임이 어떻게 나뉘는지, 대화와 행동 기록이 학습에 쓰이는 것을 거부하고도 서비스를 그대로 쓸 수 있는지. 거부 선택지가 실질적으로 작동하는지를 사후에 지적하는 방식으로는 늦다.
못 하는 것도 분명히 해두는 편이 낫다. 지금의 에이전트는 자신이 틀렸다는 사실을 스스로 알아채지 못하고, 사용자의 의도를 넘겨짚어 엉뚱한 실행에 이르는 경우가 드물지 않다. 이런 한계를 안고도 배포는 진행될 것이다. 그렇다면 한계를 감춘 채 편리함만 홍보하지 않는 것이 최소한의 예의다.
내년 이맘때 이 정책의 성패를 가를 지표는 몇 명이 에이전트를 받았느냐가 아닐 것이다. 잘못 결제된 항공권을 두고 사용자가 어디에 전화를 걸어야 하는지 알고 있는가, 자기 대화 기록을 학습에서 빼달라고 말했을 때 그 요청이 실제로 반영됐는지 확인할 방법이 있는가. 답할 수 있는 규칙은 배포 이전에 세워져야 한다.
