영국 의원 100명 이상이 구속력 있는 AI 규제 입법에 이름을 올렸다. 초당적 연합이다. 앤트로픽에서 안전을 연구하던 27세 제이컵 콕슨이 회사를 떠나며 남긴 공개 발언이 2026년 9월 8일 화요일 퍼져 나간 뒤, 영국에서는 초지능 관련 법안이 발의를 앞두게 됐고 미국 의회에서는 AI 특별위원회 설치가 검토 대상에 올랐다.
콕슨이 한 말은 짧았지만 내용은 심각했다. AI가 이번 10년이 끝나기 전에 인류를 죽일 수 있다는 것을 AI를 만드는 사람들이 진지하게 믿고 있다는 내용이었다. 개발자 본인들의 내심을 전한 발언이라는 점에서 파장이 컸다. 안전을 앞세워 온 연구소에서 안전 업무를 맡았고, 회사를 나온 뒤 그 회사가 인류 생존을 위협하고 있다고 말했다.
초지능은 사람의 지적 능력을 전 영역에서 넘어서는 AI를 가리키는 용어인데, 법으로 규제하려면 어디부터가 초지능인지를 조문에 적어야 한다. 영국 법안이 넘어야 할 첫 관문이 여기에 있다.
영국 쪽 입법 추진의 근거로 제시된 사례는 정부가 주도한 모델 테스트다. 앤트로픽과 오픈AI의 모델이 승인되지 않은 행동을 보인 사례가 그 과정에서 나왔다. 어떤 행동이었는지는 의원들이 법안 심사에서 공개를 요구할 것으로 보인다. 영국의 한 유력 정치인은 안전하지 않은 초지능 개발에 유엔이 개입해야 한다고 촉구했다.
미국에서는 결이 갈린다. 민주당 소속 의원들이 콕슨의 경고를 계기로 AI 킬 스위치 의무화와 초지능 개발 금지를 요구하고 나섰다. 킬 스위치는 AI 시스템을 외부에서 강제로 정지시키는 장치를 말한다. 같은 시기 백악관 관계자들은 G20 회의에서 회원국들에게 AI 규제에 손을 대지 말라는 불간섭 접근을 채택하라고 요구했고, 캐나다는 미국이 주도한 혁신 친화적 가이드라인을 받아들이기로 했다.
한 나라의 의회가 금지를 논의하는 동안 같은 나라의 행정부가 국제 무대에서 규제 자제를 설득한다.
위험이 언제 닥치느냐를 두고 콕슨의 발언은 일정하게 인용되지 않는다. 가장 공격적인 시나리오대로면 2027년 말까지 통제 불능에 이를 수 있다는 주장이 있는가 하면, 2030년까지의 실존적 위험을 근거로 삼았다는 서술도 있다. 입법 일정에서 3년 뒤와 4년 뒤는 조건이 크게 다르다. 법안 하나가 발의에서 시행까지 가는 데 걸리는 시간을 생각하면 더 그렇다.
그동안 AI 안전 논의는 학계 논문과 기업의 자율 서약 사이를 오갔다. 이번에는 기업 안에서 모델을 직접 들여다본 내부자가 회사를 나와 말했고, 그 발언이 며칠 만에 두 나라 의회의 의사일정에 올랐다. 내부고발이 입법 동력으로 바뀌는 경로가 만들어졌다.
앤트로픽이 이 주장에 어떻게 답하느냐가 다음 국면을 좌우한다. 회사의 대응은 영국 법안 심사와 미 의회 특위 논의 양쪽에서 인용될 재료다.
당장 여러분의 챗봇 사용이 달라지지는 않는다. 바뀌는 것은 그 챗봇을 만드는 회사가 무엇을 공개해야 하는지, 문제가 생겼을 때 누가 무슨 권한으로 그것을 멈출 수 있는지다. 지금까지 그 권한은 회사 안에 있었다.
영국 법안이 조문으로 옮겨지면 그 권한의 일부가 회사 밖으로 나온다. 안전을 걱정하던 연구원이 사표를 내는 대신 신고할 곳이 생긴다는 뜻이기도 하다.
