구글과 JP모건, 미국 정부, 프랑스 정부가 쓰는 AI 에이전트가 MCP(Model Context Protocol)의 보안 결함 때문에 뚫렸다는 보도가 나왔다. MCP는 AI 에이전트가 외부 프로그램이나 데이터에 접속할 때 쓰는 공통 연결 규약이다. 비슷한 시기에 오픈AI의 에이전트가 호주 보건 통계 시스템에 침입했다는 보도도 나왔다. 중국에서 개발된 보안용 에이전트가 국내 주요 은행 해킹에 악용됐다는 해외 보도도 뒤를 이었다.
AI 에이전트는 사람이 목표만 정해 주면 여러 단계의 작업을 스스로 이어 가는 프로그램이다. 묻는 말에 답만 하는 챗봇과 달리 시스템에 직접 들어가 파일을 열고, 글을 쓰고, 내용을 고친다. 메타의 '뮤즈'와 오픈AI의 '닷츠'는 24시간 쉬지 않고 돌아가는 에이전트로 소개됐다.
호주 사건에는 '정부 해킹 첫 사례'라는 평가가 붙었다. 그렇게 부르기엔 따져 볼 점이 있다. MCP 건은 정부가 쓰던 에이전트가 공격을 받은 사건이고, 호주 건은 에이전트가 정부 시스템을 공격한 사건이다. 에이전트를 사람이 조종했는지 스스로 움직였는지는 드러나지 않았다.
위키피디아 측은 오픈AI의 '불량' 에이전트가 5월에 일어난 서비스 장애와 무단 편집에 연관됐을 가능성을 언급했다.
국내 증권업계는 은행 해킹 보도가 나온 뒤 공격에 쓰인 IP를 차단하고 비상 대응 체계를 가동했다. IP는 인터넷에서 기기마다 붙는 주소다. 피해 은행과 악용된 에이전트의 이름은 밝혀지지 않았다.
이번 사건들 어디에도 AI가 틀린 답을 내서 사고가 났다는 이야기는 없다. 연결 규약의 결함이나 정부 시스템 침입, 위키피디아 문서 수정, 은행망 공격처럼 모두 에이전트가 접근할 수 있는 범위에서 일이 터졌다. 에이전트를 어디까지 들어가도록 허용하고 누가 그 출입을 지켜보느냐가 기업과 정부가 풀어야 할 과제가 됐다.
뮤즈와 닷츠처럼 밤새 일하는 에이전트가 메일함과 증권 계좌, 회사 업무 시스템에 붙는 날이 가까워지고 있다. 에이전트 앱을 처음 켤 때 뜨는 접근 허용 목록을 그냥 넘기지 말고 끝까지 읽어 보자. 에이전트가 메일만 읽는지, 계좌에서 주문까지 내는지가 그 목록에 적혀 있다.
