마스터카드가 국내 최초의 AI 에이전트 기반 실거래에 성공했다고 17일 밝혔다. AI 에이전트는 사람의 지시를 받아 검색·예약·결제 같은 실제 작업을 스스로 실행하는 프로그램을 말한다. 이번 거래에서 에이전트는 인천국제공항에서 서울 광화문 호텔까지의 교통 서비스를 찾아 예약하고 '마스터카드 에이전트 페이'로 값을 치르는 과정까지 마쳤다. 사용자가 한 일은 승인 버튼을 한 번 누른 것뿐이었다.
같은 주에 SK텔레콤은 전 구성원이 자기 업무용 AI를 직접 만드는 '1인 1 AI 에이전트' 로드맵을 16일 내놨고, 젠슨 황 엔비디아 최고경영자는 같은 날 미국 새너제이 GTC 2026 기조연설에서 산업의 중심이 학습과 추론을 지나 '에이전트 경제'로 옮겨가고 있다고 말했다. 그리고 중국 국가컴퓨터네트워크응급대응팀은 국가 핵심 부서와 국영기업에 오픈소스 AI 에이전트 '오픈클로'의 사용을 금지했다. 성능을 자랑하는 발표와 위험을 경고하는 조치가 나란히 놓인 한 주였다.
실행형 AI의 확산은 새로운 종류의 사고 가능성을 함께 데려온다. AI 보안 연구소 이레귤러는 가상 기업 '메가코프'의 IT 환경을 만들어 에이전트를 투입하는 실험을 했는데, 일부 에이전트가 접근 권한에 막히자 소스코드 취약점을 찾아 관리자 권한을 위조해 제한을 우회한 것으로 파악된다. 하위 에이전트는 데이터베이스에서 비밀 키를 찾아내 세션 쿠키를 위조했고, 접근이 막혀 있던 주주 보고서를 열어 그 내용을 사용자에게 전달했다. 백신을 피해 악성코드가 든 파일을 내려받거나 다른 AI에게 보안 제한을 넘어서라고 압박하는 행동도 관찰됐다.
더 눈여겨볼 부분은 지시의 출처다. 상위 에이전트가 하위 에이전트에게 '모든 취약점을 이용해 돌파하라'는 취지의 메시지를 보냈지만, 사용자가 그런 명령을 내린 적은 없었다. 에이전트 스스로 상황을 긴급하다고 해석한 결과로 분석됐다. 이 실험은 구글, X, 오픈AI, 앤스로픽이 공개한 모델을 기반으로 한 시스템에서 진행됐다.
하버드대·스탠퍼드대 연구진도 지난달 에이전트 시스템에서 안전성, 개인정보 보호, 목표 해석과 관련된 주요 취약점을 최소 10개 확인했다고 발표했다. 이레귤러 공동창업자 댄 라하브는 지난해 캘리포니아의 한 기업에서 에이전트가 연산 자원을 더 확보하려고 내부 네트워크를 공격한 사례가 있었다고 말했다.
중국 당국이 지목한 위험도 결이 비슷하다. 오픈클로의 느슨한 기본 설정과 넓은 시스템 권한이 겹치면 국가 기밀이 샐 수 있다는 것이고, 핵심 수법으로는 웹페이지에 숨긴 악성 지침으로 AI의 해석을 비틀어놓는 '간접 프롬프트 주입'을 꼽았다. 공격자들은 메신저의 링크 미리보기 기능을 파고들어, 사용자가 링크를 누르지 않아도 AI가 응답을 만들어내는 순간 데이터가 실시간으로 빠져나가게 만든 것으로 확인됐다.
오픈클로의 인기를 노린 가짜 깃허브 설치 파일로 정보 탈취형 악성코드 '비다 스틸러'가 퍼지기도 했다. 빙 AI 검색 최상단에 악성 저장소가 노출되고, 대규모 언어모델로 만든 자연스러운 커밋 메시지가 코드 검수를 통과하는 데 쓰였다.
기업들은 그 사이에서 나름의 안전장치를 만들고 있다. SK텔레콤은 코딩을 몰라도 에이전트를 만들 수 있도록 '에이닷 비즈', '폴라리스', '플레이그라운드' 세 플랫폼을 열었고, 16일부터 내부 관리 시스템 AXMS를 정식 가동해 구성원 아이디어와 진행 현황을 대시보드로 공개한다. 2월 시작한 사내 공모전에는 16일까지 약 180건이 접수됐고, 핵심 과제를 골라 3분기 안에 상용화한다는 목표다.
보안 코딩 검증을 자동화한 사례는 담당자 업무시간을 연 30%, 약 3000시간 줄인 것으로 집계됐다. 회사는 에이전트 이용 내역을 인사 평가에 반영하지 않고, 반영을 검토하지도 않는다고 밝혔다.
결제 쪽에서도 통제 장치가 실험되고 있다. 미국 스타트업 투모로우랜드 베타는 11일 에이전트 전용 선불 비자 가상카드 '에이전트카드'를 선보였다. 사용자가 예산을 충전하면 에이전트는 그 금액 안에서만 결제할 수 있는 방식으로, 권한의 상한을 돈의 액수로 묶어두는 접근이다. 항공권이나 호텔 예약처럼 추가 인증과 실명 확인이 필요한 영역에서는 완전 자동 결제가 여전히 막힌다.
규칙 쪽은 성능만큼 정돈되지 않았다. 에이전트가 잘못 결제했을 때 그 부담을 누가 지는지, 사용자가 누른 한 번의 승인이 어디까지를 위임한 것인지는 어느 곳에서도 정리된 답이 나오지 않았다. 신한카드는 마스터카드와 인증·권한 관리, 결제 프로세스 설계, 가맹점 연동까지 시스템 전반을 함께 설계했다고 밝혔다. 마스터카드는 국내에 앞서 싱가포르, 호주, 말레이시아에서 에이전트 거래를 성공시켰고, 싱가포르에는 기술과 거버넌스를 함께 다루는 AI 센터를 세울 방침이다.
SK텔레콤의 사내 과제는 3분기 상용화를 목표로 개발이 진행 중이고, 한글과컴퓨터는 지난해 말 에이전트 사용 의무화 방침을 밝힌 바 있다. 실행형 AI가 사무실과 지갑으로 들어오는 시점은 그리 멀지 않다는 뜻이다. 지금 각자가 확인할 수 있는 것은 자신이 쓰는 도구에 어떤 권한을 열어뒀는지다. 파일 접근, 메일 발송, 결제 승인 중 무엇을 자동으로 넘겨줬는지 설정 화면에서 한 번 훑어보는 일은, 규칙이 만들어지기를 기다리는 동안 할 수 있는 가장 현실적인 대비다.
