AI를 둘러싼 규제 논의가 모델 제작 단계의 통제에서 책임 소재의 배분으로 옮겨가고 있다. 미 하원에서 공화당 제이 오버놀트, 민주당 로리 트레이핸 의원이 현지시간 6월 4일 269페이지 분량의 AI 입법 초안을 내놓았고, 하루 뒤인 5일에는 트럼프 행정부의 '첨단 AI 혁신 및 안보 촉진 행정명령'과 오픈AI의 '프런티어 AI의 민주적 거버넌스: 연방 프레임워크를 위한 청사진' 백서가 각각 공개됐다. 세 문서가 겨냥하는 지점은 제각각이지만, 개발사와 정부, 주와 연방 가운데 어디까지가 누구의 몫인가를 함께 묻고 있다.
하원 초안은 최첨단 모델을 만드는 기업에 위험 대응 계획을 세우고 시행할 의무를 지우고, 그 이행을 독립적인 제3자 감사기관이 검증하도록 했다. 감독기관으로는 상무부 산하 CAISI를 지정했다. 행정명령으로 굴러가던 조직을 법률로 못 박고, 3년간 3억 달러(약 4,600억 원)를 붙이는 설계다.
행정부 쪽 접근은 결이 다르다. 행정명령은 신규 모델의 개발·배포에 의무적 라이선스나 사전 승인을 두지 않는다고 못 박았다. 대신 개발사가 출시 전 최대 30일 동안 정부에 선행 접근 권한을 주는 자발적 틀을 마련하도록 했고, 규제 대상 프런티어 모델을 가려내는 비공개 벤치마킹에는 NSA가 핵심 역할을 맡는다. 사이버 역량 평가는 NSA와 CISA를 축으로 짜인다.
오픈AI의 백서도 허가제에는 선을 그었다. 최상위 프런티어 모델에 한해 공개 전 안전성 평가와 위험 완화 절차를 의무화하되, 정부가 출시를 승인하거나 막는 권한을 갖는 데는 반대한다는 것이다. 그러면서 CAISI를 안전성 평가와 테스트 기준 마련, 독립 평가기관 인증, 국제 파트너 조정까지 맡는 상설 허브로 키우자고 제안했다. 세 문서 모두 같은 기관을 지목하지만 그 기관에 무엇을 맡길지는 서로 다르다.
가장 날카로운 충돌은 연방과 주 사이에 있다. 하원 초안은 주정부가 AI 모델 개발 자체를 겨냥한 규제를 만들지 못하게 하면서, 사기·차별·소비자 피해처럼 활용 방식을 다루는 주 규제는 그대로 열어뒀다. 이 제한 조항에는 3년 뒤 자동으로 효력이 사라지는 일몰 규정이 달렸다. 백악관도 3월 의회에 제출한 AI 정책 청사진에서 주의 개발 규제를 제한하는 연방 입법을 요구한 바 있다.
반응은 갈렸다. '책임 있는 혁신을 위한 미국인들(ARI)'의 브래드 카슨 대표는 주정부 AI 입법의 최소 안전장치가 도리어 상한선이 되어버릴 수 있다고 지적했다. 반면 ITI를 비롯한 기술 업계 단체는 규제 기준이 하나로 통일된다는 점을 들어 환영했다. 규제 강도보다 규제를 어느 층에 붙이느냐를 놓고 갈라진 대립이다.
같은 물음이 국내 금융권에서는 다른 언어로 나온다. 한국금융연구원 연태훈 선임연구위원은 '금융권 AI 활용에 대한 규제 체계의 구축' 보고서에서 규제 유형을 입법을 통한 부작용 통제, 산업별 가이드라인에 기반한 자율규제 유도, 기존 모형위험관리(MRM) 체계를 AI로 넓혀 적용하는 방식으로 나눴다. 모형위험관리란 금융회사가 쓰는 각종 예측·평가 모형을 목록화하고 등급을 매겨 검증·감시하는 관리 절차를 말한다. 보고서는 이 가운데 세 번째가 실행 가능성 면에서 가장 나은 통제 프로세스를 제시한다고 봤다.
구체적 요소로는 모형 식별과 평가, 위험등급 부여, 문서화, 실사용 전 테스트, 지속적인 모니터링과 감사, 위험관리 전담부서 설치가 꼽힌다. 여기에 독립부서 검증과 내부 승인, 제3자 관리, 3중 방어체계를 더 얹은 설명도 함께 제시됐다. 새 법을 쓰는 대신 금융사가 그동안 운용해온 통제 절차의 적용 범위를 넓히자는 발상이다.
해외는 그 길을 걷고 있다. 영국 건전성감독청은 2023년 모형위험관리 원칙을 도입했고, 캐나다 금융감독청은 지난해 관련 가이드라인을 내놨으며, 미국은 올해 지침을 개정해 발표했다. 국내에는 금융권 전반에 적용되는 모형위험관리 가이드라인이 없다. AI 기본법이 올해 시행되며 규제가 들어서고는 있지만, 금융 모형이라는 층위를 다루는 도구는 비어 있는 상태다.
보고서는 금융권 AI가 규제 순응 검증이 까다로운 일부 영역을 빼면 사실상 전 업무로 퍼질 것으로 봤다. 동시에 상당 기간은 전통적 수리·통계 모형과 AI 모형이 나란히 쓰일 것으로 전망했다. 그래서 AI만 따로 떼어내지 말고 비AI 모형까지 함께 묶는 관리 체계를 병행 도입해야 사각지대가 줄어든다는 제언이 붙었다. 한쪽만 조이면 관리가 느슨한 쪽으로 업무가 흘러가기 때문이다.
모델을 만드는 단계에 손을 대는 규제는 정치적 마찰이 크고 기술 변화를 따라가기 어렵다. 반면 그 모델이 대출 심사에 쓰이고 보험료를 매기고 채용을 거를 때 누가 검증했고 누가 승인했는지를 기록으로 남기게 하는 규제는 현행 절차 위에서 작동한다.
은행 창구에서 대출이 거절된 사람은 어떤 모델이 몇 개의 파라미터로 만들어졌는지 궁금하지 않다. 그 결정이 어떤 절차를 거쳤고, 틀렸을 때 누구에게 물을 수 있는지를 알고 싶어 한다. 워싱턴의 하원 초안은 상임위 논의를 남겨두고 있고, 국내 감독규정 정비도 확정되지 않았다.
