미국 연방정부는 AI 안전 대책을 6개 대형 기술기업과의 자율 협약으로 내놓았다. 새 규제는 없었다. 캘리포니아에서는 개빈 뉴섬 주지사가 인공지능만으로 직원을 해고하거나 징계하지 못하게 막는 SB 947, 이른바 '노 로보 보스 법(No Robo Bosses Act)'에 서명했다. 워싱턴은 기업의 약속에 기댔고, 캘리포니아는 회사가 노동자를 내보내는 순간에 법을 들이밀었다.
자율 협약은 법이 강제하는 대신 기업이 스스로 지키겠다고 약속하는 방식이다. 트럼프 행정부의 협약에는 기업 내부 통제를 강화하고 독립 감사를 받는 내용이 담겼다. 독립 감사는 회사 바깥의 제3자가 들어와 안전장치가 실제로 돌아가는지 점검하는 절차다. 감사를 누가 언제 맡는지는 발표에서 드러나지 않았다.
비판론자들은 6개 기업이 협약을 어겨도 붙잡을 집행 수단이 없다고 지적했다.
트럼프 대통령은 최근 연방정부의 새 AI 챗봇을 내세워 행정부 AI 정책을 홍보했고, 백악관에서 빅테크 경영진과 만찬도 열었다. 스콧 베선트 재무장관은 정부 규제를 요구하는 AI 기업 경영진을 영화 속 연쇄살인범 한니발 렉터에 빗댔다. 백악관 관계자들은 고용이 줄어들 수 있다는 우려가 나와도 AI 개발은 계속 밀고 가야 한다는 입장을 보였다.
캘리포니아 법은 겨냥하는 대상부터 다르다. 이 법은 고용주가 직장에서 AI를 써서 사람을 내보낼 때 무엇을 해서는 안 되는지를 정했다. 여기서 막는 'AI 혼자 내리는 해고'란 사람의 검토 없이 프로그램이 매긴 평가만으로 해고나 징계가 확정되는 경우다.
SB 947은 이런 해고와 징계를 금지했다. 뉴섬 주지사가 지난해 같은 취지의 '로봇 상사 금지법'에는 거부권을 행사했다는 점을 떠올리면, 한 해 만에 태도를 바꾼 이야기다.
서명이 끝났다고 법의 효과가 곧바로 드러나지는 않는다. 사람이 최종 결정을 내려야 하는지, 노동자가 결과를 통보받고 이의를 걸 길이 열려 있는지는 시행 규칙과 첫 분쟁 사례가 나와야 윤곽이 잡힌다. 고용주가 AI 평가에 관리자 서명 하나만 얹어 통과시키는 형식적 검토를 어떻게 걸러낼지도 지켜볼 부분이다.
고용 전망은 엇갈린다. 한 전망의 기본 시나리오는 AI와 산업 재편으로 새 일거리 약 4,100만 개가 생기고, 약 3,600만 개에 해당하는 노동이 자동화의 영향을 받는다고 내다봤다.
연방의 협약은 AI 모델을 만드는 6개 회사를 향한다. 캘리포니아 법은 그 모델을 사서 쓰는 고용주를 향한다. 규제 대상이 개발사에서 사용자로 옮겨 가면 통제의 단위도 '이 모델이 안전한가'에서 '이 해고 통지에 사람이 책임을 졌는가'로 좁혀진다.
캘리포니아에서 일하는 사람에게 달라지는 것은 해고와 징계를 확정하는 주체다. AI가 근무 기록을 분석해 점수를 매기는 일은 이어지겠지만, 그 점수만으로 해고나 징계를 확정할 수는 없다. 연방 협약은 6개 회사가 약속을 지키는지로, 주 법은 고용주의 실제 인사 결정에서 효력을 검증받는다.
