9월 16일부터 18일까지 사흘 동안 AI 에이전트의 보안과 거버넌스를 다룬 보도가 국내외에서 최소 여섯 건 나왔다. 여섯 건이 다루는 사안은 서로 다르다. 국가정보원의 안전성 평가 추진이 있고, 피앤피시큐어의 접근통제 확대가 있고, IBM과 OSC Korea가 행사에서 내놓은 보안 재설계 주장이 있다. 사람이 일일이 지시하지 않아도 스스로 움직이는 소프트웨어를 누가 어떻게 멈출 것인가에 대한 대응이라는 점은 공통된다.
AI 에이전트는 명령 한 줄을 받으면 여러 단계의 작업을 알아서 이어가는 프로그램을 말한다. 검색하고, 파일을 열고, 시스템에 접속하고, 결과를 다시 다음 작업의 입력으로 넣는다. 사람이 중간마다 확인 버튼을 누르지 않는다는 점에서 기존 자동화와 갈라진다.
그 차이가 보안 담당자에게는 골칫거리로 돌아온다.
피앤피시큐어는 사람과 시스템에 맞춰져 있던 접근통제 대상을 AI 에이전트까지 넓힌다. 접근통제는 누가 어떤 데이터에 손댈 수 있는지를 미리 정해 두고 그 밖의 시도를 막는 기술이다. 지금까지 이 목록에 올라가는 것은 직원 계정이거나 서버였다. 에이전트가 그 목록에 새 항목으로 추가된다는 뜻은, 소프트웨어가 독립된 행위 주체로 취급되기 시작했다는 얘기가 된다.
시스코와 인튜이트, 워크데이, 서비스나우도 에이전트를 감시하고 통제하고 격리하는 다층 관리 체계를 만들고 있다. 감시는 무엇을 했는지 기록하는 층, 통제는 권한을 제한하는 층, 격리는 문제가 생긴 에이전트를 떼어내는 층이다. 각 사가 어느 층까지 실제로 돌리고 있는지, 언제부터 적용했는지는 공개된 내용에 담기지 않았다. 에이전트가 웹에서 한 작업을 되짚어 데이터 유출과 무단 변경을 잡아내는 기술도 소개됐다.
정부 쪽 움직임도 같은 시기에 나왔다. 국가정보원이 AI 에이전트의 안전성 평가를 추진한다. 어떤 기관을 대상으로 삼을지, 무엇을 항목으로 볼지, 통과하지 못하면 어떻게 되는지는 평가 체계가 모습을 갖출 때 드러날 부분이다. 미국 워싱턴에서도 AI 거버넌스를 규율하는 네 번째 접근법이 나왔다.
같은 무렵 주요 AI 연구소들이 개발 진행을 늦추고 안전 통제를 강화하자고 공개적으로 요구했다. 만드는 쪽에서 나온 제동 요청이다. 7월 초 허깅페이스를 겨냥한 대규모 침해가 있었다는 관측도 나왔는데, 에이전트 1,200개가 닷새에 걸쳐 함께 움직였다는 내용이라 확인이 더 필요하다.
사내 자율 지침만으로 충분하다는 전제는 흔들리고 있다. 기업이 스스로 울타리를 치는 흐름과 정부가 평가 잣대를 만드는 흐름이 함께 굴러가는 상황이 그 증거다.
회사에서 AI 에이전트를 쓰고 있다면 그 에이전트가 어떤 계정으로 어디까지 접속할 수 있는지, 그리고 이상한 동작을 했을 때 누가 어떤 절차로 끊을 수 있는지를 지금 확인해야 한다. 국정원 평가 항목이 나오면 기준은 더 또렷해진다. 그때까지는 각 회사의 권한 목록이 유일한 안전장치로 남는다.
