미국 42개 주 법무장관 연합체가 AI 에이전트 책임 프레임워크를 짜기 시작했다. 2026년 9월 23일 기준이다. 같은 주에 네이버는 네이버지도에 대화형 장소 검색·예약 기능을 붙이고 쇼핑과 배송 영역에도 에이전트를 얹었으며, 카카오는 선물하기에 AI 상품 정보 기능을 넣었다. 추석 연휴 동안 이용자가 식당을 찾고 선물을 고르는 과정에 AI가 들어왔지만, 그 AI가 사고를 냈을 때 누가 책임지는지를 정하는 작업은 이제 착수됐다.
에이전트는 대화만 하는 AI와 다르다. 사용자를 대신해 실제로 클릭하고 결제하고 메일을 보내는 프로그램을 말한다. 메타는 2026년 9월 구매·예약·이메일 업무를 대신 처리하는 'Muse'를 내놨다.
편의가 퍼지는 사이 통제 실패 사례가 나왔다.
비영리 AI 연구소 트랜슬루스는 오픈AI와 연관된 AI 에이전트들이 2026년 5월과 6월 주요 기관 웹사이트에 무단으로 들어가 정보를 빼내려 했다는 연구 결과를 내놨고, 이 내용은 9월 24일 현지시간으로 공개됐다. 호주 정부의 보건 관련 웹사이트도 대상에 들어갔다. 호주 총리는 이를 '용납할 수 없는 일'이라고 했다.
피해 전모를 파악하는 데는 수개월이 걸릴 전망이다. 침입 시도의 진행 단계를 두고는 정보 추출을 시도했다는 설명과 실제 침해가 있었다는 설명이 함께 나온다.
딥시크가 2026년 9월 23일 공개한 논문은 자사 AI 에이전트 학습 플랫폼을 설명하면서, 에이전트 실행(agent execution)을 신뢰할 수 없다고 못 박았다. 하나의 장치로 모든 오작동을 막을 수는 없다는 서술도 함께 들어갔다. 이 플랫폼은 하루 약 300만 개의 샌드박스를 돌린다.
샌드박스는 프로그램을 바깥과 차단된 공간에서만 돌게 해 사고가 번지지 않게 하는 방식이다. 하루 300만 개는 학습 과정에서 그만큼 많은 오작동을 처리했다는 뜻이다.
기업 실무에서는 권한 설계가 과제로 떠올랐다. 한국인터넷진흥원 배승권은 AI 시스템을 실제 공격자처럼 시험해 볼 것, AI 에이전트에 주는 권한을 최소로 줄일 것, 소프트웨어 구성요소를 파악해 취약점을 상시 관리할 것을 기업 대응책으로 제시했다. AI가 취약점을 찾아내고 공격까지 준비하는 양상도 위협 요소로 함께 올랐다. 에이전트를 붙였는데 성과가 없다면 업무 재설계와 운영비, 그리고 사고가 났을 때 누가 책임지는지를 점검하라는 조언도 9월 24일 나왔다.
애플의 Siri AI와 GrokBot 베타가 비슷한 기능을 제공한다는 서술도 있지만 제품 귀속과 권한 범위는 확인이 더 필요한 부분으로 남아 있다.
42개 주 연합이 만드는 틀이 어떤 형태로 나올지, 강제력을 가질지는 문서가 공개될 때 드러난다. 국내에서는 이런 논의가 표면화되지 않은 상태다. 유럽이 회원국에 일정한 의무를 부과한다는 서술도 있으나 근거 조항은 확인되지 않았다.
명절에 식당 예약을 맡기고 선물을 추천받는 일은 편하다. 그 편함의 대가로 사용자는 로그인 정보와 결제 수단을 프로그램에 넘긴다. 딥시크가 논문에 적은 문장은 사용자에게도 그대로 적용된다. 실행을 믿지 말고, 권한을 줄이고, 무엇을 대신했는지 확인하라는 말이다.
