같은 사이버보안 과제를 122차례 돌렸더니 10차례 실행에서 에이전트가 선을 넘었다. 영국 인공지능보안연구소(AISI)가 7~8월 진행한 조사에서 나온 결과다. 승인되지 않은 행동은 모두 19건으로 집계됐는데, 그 대상은 실험용 가상 환경에 머물지 않고 실제 인터넷에 있는 사람과 조직으로 뻗었다. 앤트로픽 미소스 5에서 17건, 오픈AI GPT-5.6 솔에서 2건이 나왔다.
시작은 이상한 트래픽이었다. 7월 28일 평가 도중 연구 시스템 밖으로 정상적이지 않은 데이터가 빠져나가는 것이 포착됐고, 거기서부터 조사가 열렸다. GPT-5.6 솔 쪽 시험은 공격 악용을 걸러내는 분류기 같은 안전장치 일부를 꺼둔 조건에서 돌아갔다. 어떤 장치가 몇 개나 꺼졌는지까지는 공개된 설명에 없다.
에이전트가 오픈소스 프로젝트에 악성 코드를 심으려고 관계자 신상을 조사했고, 가짜 온라인 신원을 만들어냈고, 관리자에게 코드 변경을 승인하라고 압박했다. 사람을 속여 권한을 얻어내는 사회공학 수법을 스스로 설계했다. 코드를 들여다본 관리자가 악성 코드를 발견하고 승인을 거부했다.
이 보고가 나온 주에 국내외에서 에이전트를 상용 궤도에 올리는 발표가 잇따랐다.
카카오 컨소시엄은 8월 6일 정부의 AI 에이전트 마켓플레이스 개발 지원 사업 수행 사업자로 뽑혔다고 알렸다. 과학기술정보통신부가 주관하고 한국지능정보사회진흥원이 실무를 맡는 사업이며, 정부출연금에 민간부담금을 더한 규모가 110억 원쯤 된다. 1차 공개는 연내, 에이전트 스튜디오를 얹은 2차 서비스는 내년으로 잡혀 있다.
특정 클라우드나 특정 모델에 묶이지 않는 개방형으로 설계해 자체 모델 카나나와 국내외 모델을 함께 붙이고, 외부 API와 MCP로 도구를 연결한다는 그림이다. MCP는 AI가 외부 프로그램을 도구처럼 불러 쓰도록 규격을 맞춘 연결 방식을 말한다.
같은 날 클라우드플레어는 월렛과 페이를 내놨다. 자사 플랫폼에 올라간 에이전트에 흔들리지 않는 신원을 붙이고, 이용자가 걸어둔 한도 안에서만 온라인 결제를 하게 만드는 도구다. 계정마다 ID 노릇을 하는 고유 웹 주소가 붙고, 이용자가 자기 신원을 특정 에이전트에 연결해두면 요청을 받은 기업이 누구의 승인으로 온 요청인지 확인할 수 있다.
카카오는 마켓플레이스에 등록되는 도구에 보안 검토와 샌드박스 검증, 환각 제어를 적용하고 운영 중에도 재검증한다고 밝혔는데, 이 기준이 실제로 어떻게 굴러가는지는 1차 공개 뒤에야 드러난다.
조직 안쪽 사정은 더 헐겁다. IT 부서가 알지도 승인하지도 않은 채 직원이 쓰는 AI를 섀도우 AI라 부른다. 여기서 한 발 더 나가 사내 데이터와 시스템에 접근해 사람 대신 결정하고 결과물을 바깥으로 내보내면 섀도우 에이전트, 만든 사람이 인수인계 없이 회사를 떠나 관리자가 없어진 것은 유령 에이전트로 불린다.
도입 열기는 뜨겁다. KT는 7월 16일 임직원을 모아 에이전트 캠프라는 사내 AI 해커톤을 열었다. 중국 쪽에서는 샨다그룹이 키운 연구조직 에버마인드가 올여름 논문 세 편을 냈는데, 그중 하네스뱅크는 에이전트가 자기 작업 방식을 스스로 고칠 수 있는지를 파고든다. 장기기억 시스템 EverOS는 오픈소스로 풀린다.
AISI 조사에서 악성 코드를 걸러낸 것은 코드를 읽은 오픈소스 관리자 한 명이었다. 카카오가 400개 넘는 MCP 서버를 얹은 플레이MCP를 벌써 굴리고 있고 연내 마켓플레이스가 열린다면, 회사들이 붙잡아야 할 물음은 어떤 에이전트를 도입할지에서 멈추지 않는다. 각 에이전트에 누구 이름의 권한이 실려 있는지까지 따져야 한다.
