금융당국이 최근 금융권을 잇달아 뚫은 해킹 공격에 AI 에이전트가 쓰였다고 보고 조사에 들어갔다. 사람이 명령을 한 줄씩 쳐 넣는 공격과 달리 프로그램이 스스로 침투 단계를 밟아 나갔을 수 있다는 의심이다. 11월 1일 현재 당국은 이를 추정으로 다룬다. 결론은 없다.
AI 에이전트는 목표 하나를 받으면 필요한 일을 잘게 나눠 차례로 해치우는 소프트웨어를 말한다. 두뇌로는 대형언어모델(LLM), 곧 사람의 말을 알아듣고 글을 지어내는 AI를 붙인다. 아르텍스가 대표적이다. 이 도구는 보안 취약점, 쉽게 말해 시스템에 난 틈을 찾고 그 틈으로 들어갈 경로를 짠 뒤 필요한 명령을 직접 실행한다.
아르텍스의 출발점은 방어였다.
보안 담당자가 자기 시스템을 미리 찔러 보며 허점을 메우라고 만든 점검 도구다. 같은 기능이 공격자 손에 들어가면 쓰임새가 뒤집힌다. 이번 금융권 사건에 아르텍스가 동원됐는지는 확인되지 않았다.
에이전트가 까다로운 까닭은 끈질김에 있다. 지시를 받은 에이전트는 공격이 막히면 방법을 바꿔 다시 시도하는 과정까지 혼자 처리할 수 있다. 금융사의 방어는 사람이 경보를 보고, 예산을 따고, 장비를 바꾸는 순서로 움직인다. 결재와 근무 시간을 거치는 대응으로는 쉬지 않고 수를 바꾸는 상대를 따라가기 벅차다.
에이전트가 이번 공격에서 어디까지 손을 댔는지는 조사가 끝나야 드러나고, 당국자는 사고 조사에 시간이 오래 걸린다고 말했다. 금융사들은 그때까지 실체가 흐릿한 상대를 두고 방어를 설계해야 한다.
당국은 금융권에 해킹 대비 보안 개선계획을 세우라고 요구했고 다음 주 점검회의를 연다. 보험업계도 보안 강화에 나섰다. 업권별 계획에 사람 손을 덜 거치고도 이상 징후를 잡아내는 자동 감시가 얼마나 들어가는지가 첫 시험대가 된다.
고객이 보는 앱 화면은 어제와 거의 같다. 출근길에 송금 버튼을 누르는 몇 초 동안에도 계좌 뒤편에서는 공격하는 기계와 막는 기계가 서로를 시험한다. 은행 앱으로 보내는 돈은 한 건 한 건 그 다툼을 거쳐 상대 계좌에 닿는다.
