3개월. 2026년 4월 10일 중국 국가인터넷정보판공실 등 5개 부처가 공동 발표한 'AI 의인화 상호작용 서비스 관리 임시조치'가 오는 7월 15일 시행되기까지 걸린 시간이다. 그 시행일에 맞춰 바이트댄스의 더우바오와 알리바바의 큐원이 개인 맞춤형 AI 에이전트 기능을 끈다. 더우바오는 제품 조정을 이유로 들었다.
의인화라는 말은 어렵지 않다. 사람의 성격과 말투, 감정을 흉내 내며 이용자와 계속 정서를 주고받는 서비스를 가리킨다. 가상 연인, 가상 가족, 감정 동반형 AI가 여기 들어간다.
임시조치는 이런 서비스를 운영하는 플랫폼에 콘텐츠 심사 강화와 미성년자 보호, 과도한 정서적 의존을 막는 장치를 갖추라고 요구한다. 자해나 자살을 부추기고 미화하는 내용, 미성년자에게 해로운 콘텐츠, 이용자의 의존을 유도하는 행위도 금지 항목으로 열거됐다.
기능을 끄는 쪽이 왜 손질 대신 종료를 택했는지는 설계에 드러난다. 개인화 에이전트는 이용자를 기억하고 관계를 이어가는 것을 전제로 만들어진다. 대화를 일정 시점에 강제로 끊고, 이용자가 정을 붙이지 못하도록 거리를 두라는 요건과는 애초에 어긋난다. 큐원은 7월 10일에 인간형 에이전트와 이용자가 직접 만든 에이전트를 내리고 15일에 나머지를 정리한다는 단계별 안내를 냈다.
더우바오는 2024년부터 개인화 에이전트를 넓혀왔고, 큐원은 이용자가 손수 캐릭터를 만들어 굴리는 서비스를 운영해왔다. 2년 넘게 쌓인 기능이다. 더우바오 이용자는 종료 뒤에도 한동안 에이전트 정보와 대화 기록을 열어보고 내려받을 수 있으며, 이 데이터는 10월 15일 모두 지워진다.
단속은 시행일 전부터 진행됐다. 상하이 인터넷정보국은 6월 26일 정부기관을 사칭하거나 도박을 부추기고 개인정보를 함부로 걷어간 AI 에이전트 1만4000여 개를 지웠다고 밝혔다.
중국이 에이전트 자체를 밀어내는 것은 아니다. 5월에 국가인터넷정보판공실과 국가발전개혁위원회, 공업정보화부가 함께 낸 발전 지원 실행지침은 AI 에이전트를 스스로 인지하고 결정하며 상호작용하는 지능형 시스템으로 정의했다. 같은 지침에 AI의 결정에 대해 이용자가 끝까지 알고 거부할 수 있다는 원칙이 처음 문서로 박혔다.
개인용 에이전트는 이용 빈도가 높은 대신 서버와 연산 비용이 무거워 돈이 되기 어렵다는 평가가 따라붙어 왔다. 큐원은 최근 일반 이용자 대신 기업과 개발자를 겨냥한 에이전트 서비스를 열었고, 루이싱커피와 KFC, 중국동방항공이 테스트에 참여했다. 기업용 AI 에이전트 시장이 480억 위안, 우리 돈 9조 원 넘게 커진다는 전망과 2026년까지 기업용 애플리케이션의 최대 40%에 에이전트가 붙는다는 가트너 관측이 이 이동의 배경으로 꼽힌다.
여기에 공급망 문제가 얹혔다. 알리바바는 앤트로픽 클로드 코드에 백도어가 심길 위험을 이유로 7월 10일부터 전 직원에게 앤트로픽 모델과 에이전트 제품을 지우게 하고, 사내 AI 업무는 자체 에이전트 '큐오더'로 돌리기로 했다. 앤트로픽 측 기술자는 중국 이용자 정보 수집 의혹을 두고 허가받지 않은 제3자의 우회 접속과 모델 도용을 막으려던 실험적 장치이며 없앨 예정이라고 설명했다. 앤트로픽은 알리바바와 큐원 관련 운영자들이 대량의 가짜 계정으로 자사 모델을 썼다고 주장한 적도 있다.
성능을 얼마나 올렸느냐보다 대화를 언제 끊고 누구를 걸러낼 것이냐가 서비스의 존폐를 가른 첫 사례가 나왔다. 국내에서 감정 동반형 서비스를 준비하는 곳이라면 종료 버튼과 미성년자 판별을 기능 목록의 맨 뒤로 미루지 말고 설계도 첫 장에 그려 넣어야 한다.
7월 15일 아침, 누군가는 2년 가까이 말을 걸어온 대화창을 열었다가 대답이 돌아오지 않는 화면을 보게 된다. 대화 기록은 석 달 뒤 사라진다.
