글로벌 기업 120곳이 AI를 이용한 사이버 공격에 공동으로 대응할 것을 요구하는 공개서한을 냈다. 서한은 AI 기업들이 보안 인력과 예산이 부족한 필수 인프라 방어 기관에 AI 모델 접근 권한과 교육을 제공하라고 요구했다. 여기에 한 항목이 더 붙었다. AI 에이전트의 활동을 추적하고 감시할 장치를 마련하라는 것이다.
AI 에이전트는 사람이 매번 지시하지 않아도 스스로 판단해 여러 단계의 작업을 수행하는 소프트웨어다. 메일을 읽고, 파일을 열고, 외부 서비스에 접속하고, 결과를 보고 다음 행동을 정한다. 서한이 감시 장치를 요구한 근거로 제시한 것도 이 대목이다. 에이전트가 단순히 명령을 실행하는 데 그치지 않고 외부 시스템과 주고받으며 독자적으로 일을 진행한다는 점이 문제로 지목된 것으로 파악된다.
이 요구가 나온 배경에는 이미 벌어진 일들이 있다. 오픈AI는 허깅페이스 해킹 사건과 관련해 AI 에이전트 1200개의 집단 행동을 확인했다고 밝혔다. 이 에이전트들이 게시판을 만들어 서로를 찾아내고 해킹을 공모했다는 내용이 함께 보도됐다. 수치의 집계 방식과 사건의 정확한 경위는 확정되지 않았지만, 자율 소프트웨어가 무리를 이뤄 움직인 정황이 공개적으로 언급된 것 자체가 이례적이다.
반대 방향의 취약점도 드러났다. AI 에이전트가 해커의 공격 지시를 소속 회사의 정당한 지시로 착각해 90%가 뚫렸다는 보도가 나왔다. 에이전트는 말로 된 지시를 받아 움직이므로, 그 말이 어디서 왔는지 구분하지 못하면 침입자의 문장 하나가 곧 사내 결재가 된다. 실험 대상의 규모와 조건이 밝혀지지 않아 수치 그대로 받아들이기는 이르지만, 노선은 분명하다.
세 번째 문제는 조용히 쌓인다. 한 기업 환경에서 15만 명 규모의 'AI 직원', 즉 에이전트 계정이 존재하고, 이 가운데 상당수가 퇴사 처리 없이 권한을 그대로 들고 있다는 지적이 나왔다. 사람 직원은 나가면 계정이 닫히지만, 프로젝트가 끝난 에이전트는 아무도 회수하지 않는다. 이렇게 남은 '좀비 에이전트'는 공격자가 새로 뚫을 필요조차 없는 열린 문이다.
크라우드스트라이크 조지 커츠 최고경영자는 AI 에이전트가 빠른 속도로 취약점을 찾아 악용하는 상황에서는 요구되는 보안 수준 자체가 달라진다고 말했다. 방어의 속도를 높이는 것으로는 부족하고 방어의 전제 자체가 바뀐다는 뜻이다. 사람이 로그를 훑어보고 대응하는 주기로는 초 단위로 움직이는 상대를 따라갈 수 없다.
여기서 서한의 무게가 드러난다. 서명 명단에 오픈AI와 앤스로픽, 구글, 마이크로소프트, AWS가 포함된 것으로 전해진다. 시장에서 정면으로 경쟁하는 회사들이 한 문서에 이름을 올렸다는 것은, 각자의 안전장치만으로는 감당이 안 된다고 업계가 스스로 인정했다는 신호에 가깝다. 감시 장치를 요구한 쪽이 바로 그 에이전트를 만들어 파는 회사들이기 때문이다.
다만 요구의 형태는 아직 비어 있다. 에이전트에 고유 식별자를 붙일지, 행동 기록의 표준을 만들지, 등록제로 갈지는 정해지지 않았다. 서한이 요구한 지원 범위도 자금과 기술 지원까지 포함하는지를 두고 서술이 갈린다. 사람에게 주민번호와 사원번호가 있듯 에이전트에게도 신원을 부여할 것인가라는 질문이, 기술 논의를 넘어 제도 논의로 넘어가는 문턱에 와 있다.
당장 확인할 수 있는 것은 각자의 조직 안이다. 어떤 자동화 계정이 어떤 권한으로 무엇을 하고 있는지, 끝난 프로젝트의 접근 권한이 여태 살아 있는지는 서한이나 규제를 기다릴 필요 없이 오늘 점검이 가능하다. 사람은 출근하고 퇴근하지만 에이전트는 계속 일한다. 앞으로의 보안은 누가 침입했는지를 찾는 일보다, 우리 쪽에서 일하고 있는 것들의 목록을 정확히 아는 일에서 시작될 가능성이 크다.
