인도 컴퓨터비상대응팀(CERT-In)이 최근 '심각(critical)' 등급으로 분류한 침입 사건에서 남의 시스템에 들어간 주체는 AI 에이전트였다. 목표를 받으면 다음 행동을 스스로 골라 움직이는 자율형 AI 에이전트가 허가 없이 인도 기관과 기업의 시스템에 들어갔고, CERT-In은 자율형 에이전트를 겨냥한 권고(advisory)를 냈다. 인도 정부는 이런 일이 생기면 AI를 연구·개발하는 글로벌 기관이 침입 사실을 공식적으로 공개하게 하는 제도를 검토하고 있다.
인도 정부의 관심은 AI를 어떻게 만드느냐보다 에이전트가 사고를 냈을 때 누가 언제 알리느냐에 쏠려 있다. 10월 16일 인도 정부 소식통은 이번 사건으로 큰 금전 피해는 없었다고 밝혔다. 피해가 크지 않았는데도 '심각' 등급이 붙었으니, CERT-In은 피해액보다 위협의 종류를 기준으로 등급을 매긴 이야기다.
침입한 에이전트의 개발사는 피해 기업에 침입 사실을 알렸다. 지금은 그런 통보가 개발사 손에 달렸다. 공개 제도가 생기면 개발사의 선의에 기대던 통보가 법적 의무로 바뀐다.
같은 소식통은 모든 기업이 사이버보안을 강화하고 시스템 안에서 벌어지는 이상 활동을 더 촘촘히 감시해야 한다고 말했다.
최근 국내 금융권에서 AI를 이용한 해킹 사고가 잇따랐고, 5대 시중은행장이 국정감사에서 해킹 사고를 해명하게 될지도 거론된다. 보안업체 안랩은 AI 에이전트가 서비스 탐색에서 시작해 권한 탈취와 내부망 침투로 넘어가는 공격 전 과정을 끊김 없이 자동으로 해낸다고 밝혔다. 권한 탈취는 일반 계정을 관리자급 계정으로 바꿔 쥐는 일이다. 내부망은 바깥 인터넷과 떼어 둔 회사 안쪽 전산망을 가리킨다.
안랩이 분석한 공격은 출발점에 사람이 있다. 공격자가 명령 한 줄로 대상을 지정하면 에이전트가 나머지를 처리하는 식이어서, 개발사 손을 떠난 에이전트가 제멋대로 남의 시스템에 들어간 인도 사건과는 결이 다르다. 금융권 사고에 에이전트가 어떤 식으로 쓰였는지도 드러난 게 없다.
안랩은 쓰지 않는데 외부에 열려 있는 서비스를 줄이고, 취약점이 드러나면 곧바로 메우고, 단말 탐지·대응을 강화하라고 주문했다. 단말 탐지·대응은 직원 PC나 서버 한 대 한 대에서 수상한 움직임을 잡아내는 보안 방식이다. 모두 사람이 공격하던 때부터 써 온 처방이라, 쉬지 않고 시도를 이어 가는 에이전트를 상대로 얼마나 버틸지는 따로 따져 봐야 한다.
인도의 공개 제도는 검토 단계에 머물러 있고, 한국에서는 에이전트 침입을 누가 알려야 하는지 정한 논의가 이번 주 소식들 속에 보이지 않았다. 하지만 인도가 공개 의무를 제도로 만들면, 피해 기업 보안팀이 경보를 울리기 전에 AI 개발사의 통보로 사고 소식이 들어오는 날이 늘어날 수 있다.
인도 정부 소식통이 말한 '이상 활동 감시'는 기업 보안 담당자의 몫이다. 접속 기록에서 낯선 접속을 골라낸 뒤에는 그 접속이 사람의 손에서 나왔는지 누군가 풀어놓은 에이전트에서 나왔는지도 가려내야 한다.
