개인용 AI 에이전트를 만드는 Instinct가 세쿼이아와 벤치마크, 코투에게서 10억 달러를 투자받았다고 9월 28일 보도됐다. 기업가치는 100억 달러로 매겨졌다. 이 회사 에이전트는 여행을 예약하고 장을 보며, 자기 전화번호로 식당 같은 업체에 직접 전화를 건다.
AI 에이전트는 목표 하나를 받으면 여러 단계를 스스로 밟아 가는 프로그램을 말한다. 답을 보여 주는 데서 멈추는 챗봇과 달리 예약 버튼을 누르고 통화를 연결한다. Instinct의 에이전트가 식당에 거는 전화 한 통도 날짜를 잘못 알아들으면 엉뚱한 날 예약이 잡히고, 그 잘못을 누가 떠안을지 정해 둔 규칙은 찾아보기 어렵다.
국내 현장에도 에이전트가 들어오고 있다. KB국민카드는 에스와이폴라리스와 함께 AI 에이전트로 결제를 검증하는 실증에 나선다고 9월 29일 보도됐다. 같은 날 한국인터넷진흥원(KISA)은 산업계와 학계, 정부, 경찰과 손잡고 에이전트로 실종자를 찾는 체계를 만들었다고 보도됐다. 에이전트가 결제를 직접 승인할지, 검증만 거들지는 실증 결과가 나와야 가려진다.
사고 뒤를 대비하는 도구는 해외에서 9월 28일 하루에만 두 건이 소개됐다.
오픈소스 패키지 vaara 2.3.0은 정해 둔 정책에 따라 에이전트의 도구 호출을 막거나 허용한다. 도구 호출이란 에이전트가 메일 발송이나 검색 같은 바깥 기능을 불러 쓰는 동작이다. 호출마다 남는 감사 기록은 해시를 사슬처럼 이어 붙여 저장하는데, 해시는 데이터를 짧은 지문으로 바꾼 값이어서 중간 기록 하나만 고쳐도 뒤쪽 지문이 줄줄이 틀어진다.
기록 시점은 외부 시각에 고정된다. MCP(에이전트와 외부 도구를 연결하는 공통 규격)로 부른 도구마다 따로 검증할 수 있는 증명서와 실행 영수증도 붙는다.
HPE는 자사 프라이빗 클라우드 AI 플랫폼에 엔비디아 OpenShell을 통합했다. 내건 이름은 '에이전트 운영체제'다. 기업 안에서 스스로 움직이는 에이전트를 감시하고, 샌드박스에 격리하고, 문제가 생기면 이전 상태로 되돌린다. 샌드박스란 프로그램이 바깥 시스템을 건드리지 못하도록 막아 둔 시험용 공간을 가리킨다.
BragJack 연구에 따르면 악성 브라우저 확장 프로그램 하나로 제미나이와 퍼플렉시티 코멧, 엣지의 AI 에이전트를 사용자 클릭 없이 탈취할 수 있다. 브라우저에 들어간 어시스턴트 일부는 사용자를 대신해 웹사이트에서 직접 동작을 실행하므로, 탈취당한 에이전트는 주인 계정으로 버튼을 누르게 된다. 업체마다 이 결함을 고쳤는지는 확인되지 않았다.
규제도 움직였다. 8월 2일부터 효력이 생긴 EU AI법 50조는 사람과 상호작용하는 시스템에 일정한 의무를 지운다. 에이전트 감사와 통제를 내건 도구들은 저마다 EU AI법을 근거로 들며 기업 고객을 설득한다.
2022년 구글 직원 한 명이 자사 AI 모델에 지각이 있다고 주장했을 때, 논쟁은 기계에 마음이 있느냐를 맴돌았다. 지금 필요한 물음은 에이전트가 무엇을 했는지, 누가 허락했는지 보여 줄 수 있느냐다. 직장에서는 직원들이 이메일 초안과 내용 요약, 법률 문서와 재무 보고서 작성에 AI 도구를 쓰고 있다.
에이전트에게 저녁 예약을 맡긴 사람이 받아 보는 것은 확인 문자 한 통이다. 그 뒤편에 호출마다 실행 영수증이 쌓이는 시스템이라면, 날짜가 어긋난 예약도 어느 단계에서 틀렸는지 짚어 낼 수 있다.
