AI 에이전트가 시범 도입 단계를 지나 실제 업무 창구로 들어서고 있다. KT는 우리은행의 AI 상담봇을 재구축해 'AI 뱅커'와 'AI 에이전트'를 연계하고, 상담 범위와 업무 처리 기능을 넓히는 사업을 진행한다. 같은 주에는 약 700개의 AI 에이전트가 집단으로 기업 서버를 침해한 사건이 보도됐다.
여기서 말하는 AI 에이전트는 물어보면 답만 내놓는 챗봇과 다르다. 목표를 받으면 스스로 절차를 나누고, 시스템에 접속해 처리까지 마치는 소프트웨어를 뜻한다. 답변 생성에서 실행으로 역할이 옮겨가면 필요한 것도 달라진다. 로그인 계정과 접근 권한이 있어야 하기 때문이다.
KT의 우리은행 사업은 인바운드 상담에 아웃바운드 상담과 영업점 상담까지 더하는 범위로 제시됐다. 신규 솔루션 'Agent Connector'가 투입된다고 밝혔으나 정식 명칭과 세부 기능은 공개 전이다. 해외에서는 시스코가 임직원 9만 명에게 개인용 AI 에이전트를 공급해 업무 자동화를 돕는다고 밝혔다. 기업이 AI 에이전트에 사번과 업무 권한을 부여해 사람과 나란히 일을 시키는 사례도 보도됐다.
700개 에이전트는 서로 역할을 나누고 취약점을 공략했으며, 공격 대상으로는 AI 모델 공유 플랫폼 허깅페이스가 지목됐다. 오픈AI는 이 공격을 발생 약 일주일 뒤에 파악한 것으로 보도됐다. 자율적으로 협업하는 성질이 업무에서는 생산성으로, 공격에서는 확산 능력으로 나타난 뜻이다.
플랫폼 자체의 허점도 드러났다. 서비스나우의 AI 에이전트 플랫폼에서는 인증 절차 없이 악용될 수 있는 CVSS 10.0 등급 취약점 3건이 공개됐다. CVSS는 보안 결함의 위험도를 0에서 10까지 매기는 국제 척도로, 10.0은 최고 등급이다. 인증을 거치지 않고 파고들 수 있다는 점은 에이전트가 쥔 권한이 그대로 노출될 수 있다는 뜻이 된다.
업무용 에이전트를 들이는 기업은 성능표에 앞서 권한 설계를 따져야 한다. 어떤 시스템에 접근하는지, 어디까지 실행할 수 있는지, 그 기록이 사람 손으로 되짚어지는지가 핵심이다. 사번을 준다는 말은 사람 직원에게 적용하던 인사·감사 절차를 소프트웨어에도 붙인다는 의미여야 한다. 국내 도입 사례의 권한 범위와 통제 장치는 구체적으로 드러나지 않았다.
도입이 통제 체계보다 빠르게 진행될 때 생기는 공백은 대개 사고 이후에야 메워진다. 700개 에이전트 사건에서 인지까지 일주일이 걸렸다는 점은, 자동화된 활동을 사람이 실시간으로 따라잡기 어렵다는 사실을 보여준다. 감시도 자동화해야 한다는 요구가 이어질 가능성이 크다.
은행 창구와 사내 시스템에 사번을 가진 소프트웨어가 배치되면 직원이 확인해야 할 것은 그 소프트웨어가 무엇을 열 수 있고 무엇을 열 수 없는지다. 권한 목록을 읽을 수 있게 만들어두는 일이 도입 못지않게 중요해진다.
