오픈AI가 3일(현지시간) '프런티어 AI의 민주적 거버넌스' 보고서를 공개하고, 주마다 따로 만들어진 인공지능 규제를 하나로 합친 연방 차원의 표준 법안을 마련하자고 제안했다. 캘리포니아·뉴욕·일리노이 등이 각각 준비한 AI 안전 법안에서 겹치는 핵심 내용을 추려 연방법으로 끌어올리자는 것이다. 같은 날 샘 올트먼 최고경영자는 워싱턴을 찾아 마이크 존슨 하원의장과 하킴 제프리스 민주당 하원 원내대표를 잇달아 만났다.
보고서가 내건 논리는 단순하다. AGI, 그러니까 사람 수준의 폭넓은 지능을 갖춘 AI가 인류에 도움이 되려면 기업의 자발적 약속이나 회사별 내부 정책, 사안마다 따로 붙는 부분적 규제만으로는 부족하다는 것이다. 오픈AI는 그 대안으로 세 가지를 필수 항목으로 제시했다. 정기적인 투명성 보고서 공개, 매년 외부 독립 기관이 수행하는 평가와 감사, 그리고 중대한 안전사고가 났을 때의 신고 의무화다.
집행 기구도 함께 지목했다. 미 상무부 산하 'AI 표준·혁신 센터'(CAISI)를 상설 기구로 격상시켜, 기업이 가장 성능이 높은 모델을 내놓기 전에 그 평가를 맡기자는 안이다. 주에서 올라온 규칙을 연방이 받아 적고, 연방 기관이 출시 전 문턱을 지키는 그림이다. 오픈AI는 이 방식을 '역(逆)연방주의'식 국가 표준 만들기로 설명했다.
하루 전인 2일 트럼프 대통령은 AI 기업이 최신 고성능 모델을 출시하기 전 정부에 제출해 보안검증을 받도록 하는 행정명령에 서명했다. 정부가 모델을 미리 들여다보며 보안 결함을 점검하는 기간은 최대 30일로, 초안의 90일에서 크게 줄었다. 트럼프 대통령은 지난달 21일 당초 안에 서명하려다 막판에 거둬들였는데, 90일이 지나치게 길다는 우려가 이유였다고 한다.
행정명령의 실무는 여러 부처가 나눠 맡는다. 재무부·국방부·국토안보부 등이 외부에 공개하지 않는 기밀 벤치마킹 절차를 만들고, 개발사는 정부와 자발적 협력 체계를 꾸린다. 여기서 구성될 AI 사이버보안 협력체는 소프트웨어 취약점을 대규모로 훑어 찾아내고 보안 패치를 언제 어떻게 배포할지 조율하는 역할을 한다. 백악관은 미국의 AI 우위를 굳히고 인프라·국가안보 시스템을 사이버 위협에서 지키기 위한 조치라고 설명했으며, 면허제나 사전 승인제 도입은 아니라는 선을 그었다.
올트먼 CEO는 이 행정명령이 혁신과 안전 사이에서 적절한 균형을 맞췄다고 평가했다. 존슨 하원의장은 면담 뒤 AI 피해를 막기 위한 '경량 규제' 체제를 논의했다고 밝혔다.
기업 입장에서 50개 주의 서로 다른 규칙을 각각 맞추는 일은 비용이고, 어느 선까지 지키면 되는지 미리 알 수 있는 예측 가능성은 개발 일정 자체를 좌우한다. 반대편에서 보면 통합은 곧 하향 평준화일 수 있다. 연방 표준이 주법을 대체하는지 나란히 존재하는지는 확정되지 않았고, 이 점이 정리되지 않으면 통합의 성격도 규정하기 어렵다.
정치자금 문제도 배경에 깔려 있다. 오픈AI는 1일 특정 후보나 정당, 정치활동위원회에 기부하지 않으며 PAC을 운영하지도 않는다며 중립성을 강조했다. 그러나 그레그 브록먼 사장과 부인 애나 브록먼은 개인 자격으로 트럼프 지지 슈퍼팩 'MAGA Inc.'와 친AI 성향 정치 단체에 기부했다.
당장 바뀌는 것은 개발자와 이용자가 체감하는 출시 리듬이다. 새 모델 하나가 세상에 나오기까지 최대 한 달의 정부 점검이 끼어들고, 그 결과가 어떤 형식으로 공개되는지에 따라 이용자는 자기가 쓰는 도구가 어떤 검사를 통과했는지 처음으로 확인할 수 있게 된다. 매년 외부 감사와 사고 신고가 의무가 된다면, 챗봇이 잘못 답했을 때 그것이 개별 해프닝인지 신고 대상인지도 구분되기 시작한다.
물론 검증 대상이 되는 '고성능 모델'의 기준선도, 30일을 지키지 않았을 때 무슨 일이 벌어지는지도 문서로 확정된 바 없다. CAISI를 상설화하려면 예산과 입법이 필요하고, 존슨 의장이 말한 '경량 규제'가 어떤 법안으로 나올지는 앞으로 드러날 일이다. 그때까지 이용자가 손에 쥘 수 있는 것은 각 회사가 내놓는 투명성 보고서 정도다.
