AIをめぐる規制論議が、モデル製作段階の統制から責任の所在の配分へと移りつつある。米下院で共和党のジェイ・オーバーノルト、民主党のロリ・トラハン両議員が現地時間6月4日に269ページ分のAI立法草案を出し、翌5日にはトランプ政権の「先端AI革新および安全保障促進に関する大統領令」とオープンAIの「フロンティアAIの民主的ガバナンス:連邦フレームワークのための青写真」白書がそれぞれ公開された。3つの文書が狙う地点はそれぞれ異なるが、開発企業と政府、州と連邦のうちどこまでが誰の役割かをともに問うている。
下院草案は最先端モデルを作る企業に、リスク対応計画を立てて実行する義務を課し、その履行を独立した第三者の監査機関が検証するようにした。監督機関としては商務省傘下のCAISIを指定した。大統領令で動いてきた組織を法律で定め、3年間で3億ドル(約4,600億ウォン)をつける設計だ。
行政府側のアプローチは趣が異なる。大統領令は新規モデルの開発・展開に義務的なライセンスや事前承認を置かないと明記した。代わりに開発企業がリリース前に最大30日間、政府に先行アクセス権限を与える自発的な枠組みを設けるようにし、規制対象のフロンティアモデルを選び出す非公開のベンチマーキングにはNSAが中核的な役割を担う。サイバー能力の評価はNSAとCISAを軸に組まれる。
オープンAIの白書も許可制には線を引いた。最上位のフロンティアモデルに限って公開前の安全性評価とリスク緩和の手続きを義務化するものの、政府がリリースを承認したり止めたりする権限を持つことには反対するというものだ。そのうえで、CAISIを安全性評価とテスト基準づくり、独立評価機関の認証、国際パートナーとの調整まで担う常設ハブに育てようと提案した。3つの文書はいずれも同じ機関を指しているが、その機関に何を任せるかは互いに異なる。
最も鋭い衝突は連邦と州の間にある。下院草案は州政府がAIモデルの開発そのものを狙った規制を作れないようにしながら、詐欺・差別・消費者被害のように活用の仕方を扱う州の規制はそのまま開けておいた。この制限条項には3年後に自動的に効力が消えるサンセット規定が付いた。ホワイトハウスも3月に議会へ提出したAI政策の青写真で、州の開発規制を制限する連邦立法を求めていた。
反応は分かれた。「責任ある革新のためのアメリカ人(ARI)」のブラッド・カーソン代表は、州政府のAI立法の最低限の安全装置がかえって上限になってしまいかねないと指摘した。一方、ITIをはじめとする技術業界の団体は、規制基準が一つに統一される点を挙げて歓迎した。規制の強度より、規制をどの層に付けるかをめぐって分かれた対立だ。
同じ問いが韓国の金融界では別の言葉で出てくる。韓国金融研究院のヨン・テフン先任研究委員は「金融界のAI活用に対する規制体系の構築」報告書で、規制の類型を、立法を通じた副作用の統制、業種別ガイドラインに基づく自主規制の誘導、既存のモデルリスク管理(MRM)体系をAIに広げて適用する方式に分けた。モデルリスク管理とは、金融会社が使う各種の予測・評価モデルを一覧にして等級を付け、検証・監視する管理手続きをいう。報告書はこのうち3番目が実行可能性の面で最も良い統制プロセスを示していると見た。
具体的な要素としては、モデルの識別と評価、リスク等級の付与、文書化、実使用前のテスト、継続的なモニタリングと監査、リスク管理の専門部署の設置が挙げられる。ここに独立部署の検証と内部承認、第三者の管理、3重の防御体系を加えた説明も併せて示された。新しい法を書く代わりに、金融会社がこれまで運用してきた統制手続きの適用範囲を広げようという発想だ。
海外はその道を歩んでいる。英国の健全性監督庁(PRA)は2023年にモデルリスク管理の原則を導入し、カナダの金融監督庁は昨年に関連ガイドラインを出し、米国は今年に指針を改定して発表した。韓国には金融界全般に適用されるモデルリスク管理のガイドラインがない。AI基本法が今年施行され規制が入りつつあるが、金融モデルという層を扱う道具は空いた状態だ。
報告書は、金融界のAIが規制順守の検証が難しい一部の領域を除けば事実上すべての業務に広がると見た。同時に、相当の期間は伝統的な数理・統計モデルとAIモデルが並んで使われると見通した。それでAIだけを切り離さず、非AIモデルまで一緒に束ねる管理体系を並行して導入してこそ死角が減るという提言が付いた。片方だけを締めれば、管理の緩い方へ業務が流れるためだ。
モデルを作る段階に手をつける規制は政治的な摩擦が大きく、技術の変化についていきにくい。一方、そのモデルが融資審査に使われ、保険料を決め、採用をふるいにかけるときに、誰が検証して誰が承認したのかを記録に残させる規制は、現行の手続きの上で動く。
銀行の窓口で融資を断られた人は、どのモデルがいくつのパラメータで作られたのかは気にしない。その決定がどんな手続きを経たのか、間違っていたとき誰に問えるのかを知りたがる。ワシントンの下院草案は常任委員会での議論を残しており、韓国の監督規定の整備も終わるまでにはさらに時間がかかる。
