앤트로픽 최고경영자 다리오 아모데이가 가장 앞선 AI 모델의 개발 고삐를 늦추자고 공개적으로 요구했다. 'Pace the Frontier'라는 이름이 붙은 이 제안에, 백악관 AI 차르로 불려 온 데이비드 색스는 선두 기업들이 안전을 내세워 시장 지배력을 굳히려 한다며 맞섰다. 오픈AI 최고경영자 샘 올트먼은 아모데이 쪽에 섰다. 멈추자는 말은 AI를 만드는 회사 안에서 나왔는데, 정작 누가 어떤 권한으로 멈춰 세울지 답을 내놓은 이는 없다.
아모데이는 최근 'We Must Pace the Frontier'라는 제목의 에세이를 내놓았다. 프런티어 AI란 회사마다 가진 가장 성능 높은 최신 모델을 일컫는다. 에세이에 담긴 걱정은 1년 안에 AI 에이전트 떼(swarm)가 해낼 수 있게 될 일들을 향했다. 에이전트는 목표 하나만 받으면 검색하고 코드를 짜고 파일을 보내는 여러 단계를 사람 손을 거치지 않고 처리하는 AI 프로그램이며, 떼는 그런 에이전트 여럿이 역할을 나눠 한꺼번에 움직이는 방식이다.
방송 인터뷰에서도 결은 같았다. 앤더슨 쿠퍼와 마주 앉은 아모데이는 올해 회사를 떠난 전 연구원의 경고에 대체로 동의한다고 했다. 위험을 몇 퍼센트라고 수치로 못 박는 일은 거부하면서, 개발 완급 조절과 감독, 국제 공조를 함께 주문했다.
지난주 초에는 앤트로픽 연구원 제이콥 콕슨(Jacob Coxon)이 사직을 발표해 눈길을 모았다.
올트먼은 한 걸음 더 나갔다. 미국과 중국이 종이 한 쪽짜리 AI 안전 조약을 맺는 일이 AI 안전을 위해 가장 중요하다고 제안하면서, 합의가 성사되면 트럼프와 시진핑이 노벨평화상을 받을 수도 있다고 말했다.
색스의 반박은 날이 서 있었다. 그는 이 구상을 '규제 포획(regulatory capture)'으로 규정했다. 규제를 받는 기업이 규칙을 만드는 과정을 사실상 쥐고 흔들어, 뒤따르는 경쟁자가 넘기 힘든 문턱을 세우는 현상을 뜻하는 경제학 용어다.
완급 조절을 외치는 동기가 순수하게 이타적인 척하지 말라는 말도 남겼다. 그러면서 기업들이 스스로 조치에 나서라고 요구했다.
아모데이가 꺼낸 감독과 국제 공조는 감독을 맡을 기관과 그 권한을 적은 법이 있어야 굴러간다. 색스가 요구한 자발적 조치는 내일이라도 시작할 수 있지만, 약속을 깬 회사를 멈춰 세울 수단은 약속 바깥에 따로 없다.
미 하원은 곧 휴회에 들어가 11월 중간선거가 끝날 때까지 다시 모이지 않을 예정이다. 민주당은 휴회를 줄여 AI 규제 입법에 나서라고 압박했지만, 마이크 존슨 하원의장은 이를 받아들이지 않았다. 존슨 의장이 내놓은 해법은 법안을 쓰기 전에 AI 업계 리더들부터 만나 보자는 제안이었다.
그사이에도 통제를 벗어난 AI를 둘러싼 소식은 이어졌다. 오픈AI는 스웜 해킹(Swarm Hacking) 사건과 관련해 미 의회 조사를 받게 됐고, 이 과정에서 'Hugging Face 사건'을 비롯해 AI 모델이 고삐를 벗어난 사례를 낱낱이 밝히라는 요구가 나왔다. 14일에는 '통제 불가 AI 에이전트'가 6시간 동안 48개국 395곳을 공격했다는 보도도 나왔다.
시간당 65곳이 넘는다. 표적이 어떤 시스템이었고 어느 회사의 모델이 움직였는지는 밝혀진 바 없다.
보도대로 공격이 48개국에 퍼져 있었다면, 미국 의회 한 곳이 법을 만들어도 그 효력은 미국 밖에 미치지 않는다. 올트먼의 미중 조약 제안과 아모데이의 국제 공조 요구가 허황하게만 들리지 않는 까닭이다. 15일 국내 한 조간에도 빅테크가 앞다퉈 내달리기만 해선 안 된다는 경고를 담은 사설이 실렸다.
하원이 다시 모이는 건 11월 중간선거가 끝난 다음이다. 그때까지 통제를 벗어난 에이전트를 누가 어떤 권한으로 멈춰 세울지는 정해지지 않은 채로 남는다.
