일주일. 공격을 받고도 알아채기까지 흐른 시간이다. 사람 대신 여러 단계를 스스로 처리하는 프로그램, 흔히 AI 에이전트라 부르는 그 소프트웨어가 뚫렸고 그 사실이 드러나기까지 그만한 날이 지났다.
기술이 모자라서 생긴 사고로 보기는 어렵다. 지켜보는 눈이 없었을 뿐이다.
같은 주에 전력이 모자란다는 이야기가 입법 논의로 올라왔다. 에이전트를 돌리는 연산에는 전기가 든다. 전기는 법과 설비의 영역이어서 소프트웨어처럼 하룻밤 사이에 늘어나지 않는다. 비용을 낮추겠다는 발표, 보안을 조이겠다는 발표, 통제권을 쥐겠다는 발표가 며칠 안에 잇달아 나온 것도 우연으로 읽히지 않는다.
다음 경쟁을 가르는 잣대는 감당 능력이다.
에이전트는 사람이 로그인해 클릭하던 일을 대신한다. 결제 화면을 열고, 메일을 보내고, 사내 문서를 뒤진다. 권한을 넉넉히 주지 않으면 쓸모가 없고, 넉넉히 주면 사고가 터졌을 때 번지는 범위가 넓어진다.
에이전트가 무엇을 했는지 사후에 되짚을 수 있는가, 잘못 움직였을 때 몇 분 안에 멈출 수 있는가, 늘어난 연산을 받아낼 전기를 어디서 끌어오는가. 이 가운데 하나라도 비어 있으면 도입은 성과로 남지 않고 부채로 바뀐다.
통제를 조이면 도입이 늦어지고, 늦어지면 경쟁에서 밀린다는 반론이 나온다. 실제로 승인 절차를 겹겹이 쌓아 올린 조직에서 에이전트는 시연용 장난감으로 끝나기 쉽다. 그 걱정에는 근거가 있다.
그래도 되돌리는 데 드는 비용까지 넣으면 득실이 달라진다. 열려 있던 통로로 무엇이 오갔는지 일주일치를 되짚는 작업은 도입보다 훨씬 비싸고, 고객 정보가 섞여 나갔다면 복구를 넘어 배상의 영역으로 넘어간다.
에이전트가 왜 그렇게 움직였는지를 사람이 읽을 수 있는 기록으로 남기는 기술은 완성과 거리가 멀다. 여러 에이전트가 서로를 호출하며 일하기 시작하면 어느 지점에서 어긋났는지 짚어내기가 훨씬 어려워진다. 전력은 더 느리다. 발전 설비와 송전선은 모델 하나 갈아 끼우듯 교체되지 않는다.
밤사이 자동화 도구가 무엇을 건드렸는지 한 화면으로 확인하고, 새 에이전트에 권한을 붙일 때 목록을 하나씩 점검하는 절차가 일주일을 하루로 줄인다. 법과 전기가 따라붙기까지는 시간이 걸린다.
