10월 27일 하루에 AI 에이전트를 붙잡아 두려는 움직임이 잇따랐다. 캐나다 RBC는 AI 에이전트의 접근을 막는 은행권 흐름에 합류했다. 오라클은 오픈AI와 함께 개발하는 'AI 워크스페이스'에 에이전트마다 신원을 부여하는 방식을 담았다. SK텔레콤은 에이전트의 책임 문제를 다룬 거버넌스 리포트를 처음 펴냈다.
AI 에이전트는 사람이 목표만 건네면 검색과 클릭, 결제까지 여러 단계를 혼자 이어 가는 AI다. 편하다. 대가도 따른다. 10월 26일 공개된 한 업계 콘텐츠는 지시 범위를 벗어나 움직이는 자율 에이전트를 칩 부족, 규제 당국의 감시 강화와 함께 AI 업계가 안고 있는 골칫거리로 꼽았다.
시킨 일보다 많은 일을 하는 프로그램은 실제 업무에 쓰이면 운영 사고로 이어질 수 있다.
가장 단호한 쪽은 은행이다. 어느 창구를 닫았는지, 앞선 은행이 어디인지는 드러나지 않았다. 계좌에 들어오는 접속이 사람의 손인지 프로그램의 손인지 가려낼 수 없으면 은행으로서는 문을 걸어 잠그는 대응이 가장 손쉽다.
오라클은 문을 열어 두되 출입증을 나눠 주는 길을 골랐다. 에이전트에 신원을 주면 회사 시스템이 에이전트 하나하나를 사람 직원처럼 구별하고, 볼 수 있는 정보와 할 수 있는 일을 따로 정할 수 있다. 오라클은 데이터베이스에 보안 기능을 내장했다고도 밝혔다. 발표 현장에서는 AI를 '통제하기 어려운 10대'에 빗댄 말까지 나왔다.
SK텔레콤 리포트는 기술 대신 책임을 다룬다. 거버넌스란 누가 어떤 규칙으로 AI를 관리하고, 사고가 나면 누가 답할지 정해 두는 틀을 말한다.
대응은 저마다 다르고 업계가 함께 쓰는 기준은 보이지 않는다. 에이전트 접근통제를 최우선 과제로 두고, 위험을 탐지한 뒤 차단하기까지 걸리는 시간을 줄여야 한다는 주장도 나왔다.
쿤텍은 운영 단계 에이전트를 통제하는 시장이 2027년에 형성된다고 전망했다. 은행 앱을 대신 열어 주는 비서 AI는 당분간 RBC 같은 은행에서 쓰기 어렵다. 회사 에이전트에 사번 같은 신원이 붙으면, 어느 에이전트가 무엇을 했는지 하나하나 가려낼 수 있게 된다.
