人工知能の発展および信頼基盤の造成などに関する基本法、略してAI基本法が22日から効力を持ち始めた。人工知能全般を一つの法律にまとめて扱う包括法令が国単位で全面施行された例は、今回が初めてだ。ところが施行から6日が過ぎた企業の現場では、規制を守る作業が後回しになっている。自社のサービスがこの法律のどの枠に入るのかを見極める解釈作業の最中だ。
法律は透明性、高影響、安全性という軸で規制を組み立てる。何がAIなのかを知らせよという透明性、人の暮らしを大きく揺さぶるAIはより重く管理せよという高影響が、それぞれの中身だ。ところが前の二つの軸は境界線が引かれないまま法律が動き出した。高影響AIを見分ける基準と細目の義務項目が整えられておらず、生成物の表示義務を分ける「外部流通」の範囲と、サービスごとの画面実装方式に応じた適用基準もガイドラインに委ねられている。
高影響AIは、国民の権利と義務、生計、信用度のように暮らしの条件を左右する意思決定に関与するシステムを指すものと整理される。これに当たれば、リスク管理策を立て、学習データの概要とアルゴリズムの動作方式を説明できるよう備え、利用者保護対策と人が直接管理・監督する体制を整えなければならない。金融業界では、銀行の内部信用評価モデル、自動融資審査と限度額の算定、異常取引検知(FDS)といったシステムが候補に挙げられている。どのような手続きを経て誰がこの札を貼るのかは確定していない。
表示義務の側は比較的絵姿がある。施行前日の21日に公開された人工知能透明性確保ガイドラインは、高影響・生成型AIを使うという事実をあらかじめ知らせる告知と、AIが作った成果物であることを表示する義務とに透明性を分ける。成果物がサービス内でのみ使われる場合は、画面上の案内やロゴ表示のような緩やかな方式が認められる。チャットボットは対話開始前の案内や画面内のロゴ、ゲーム・メタバースはログイン時の案内やキャラクター表示で代えることができる。
成果物が外に出れば求められる水準が上がる。持ち出し・ダウンロード・共有の場面では、人が目や耳で気づけるウォーターマークを付けるか、文言・音声で案内したうえで機械が読み取れるメタデータを埋め込まなければならない。ディープフェイクのように実物と区別しにくい生成物は、人がはっきり見分けられる方式でなければならない。問題は、SaaSやAPIを経て成果物がやり取りされるサービスで、どこまでが「外」なのかを判定する物差しがぼやけている点にある。
義務を負う主体の範囲も二通りに読める。透明性確保義務は利用者にAI製品・サービスを直接提供する事業者に限られると整理されるが、条文はAIを開発・提供する側に加え、AIを取り入れてサービスを作る利用事業者まで適用対象に入れている。他社のモデルを組み込んでサービスを売る会社にとって、この違いは小さくない。準備を始める時点と予算の規模がまるごと変わるからだ。
準備状況をめぐって出た調査結果は芳しくない。昨年4月に金融会社118社を対象に行った全数調査で、AI関連の意思決定機構を置いているところは銀行5社、保険会社4社、証券会社1社にとどまった。調査対象の約85%は、AI倫理原則やリスク管理基準を作っていない状態だった。AI基本法への対応準備を終えたと答えた企業の割合が2%にとどまったという調査結果も出た。
金融業界には守るべき規制が幾重にも積み重なっている。電子金融取引法と監督規定、ネットワーク分離を含む情報保護規制、個人情報保護法と信用情報法、内部統制・消費者保護規定、金融分野AIガイドラインの上に、AI基本法がもう一層乗った。ところがこの法律のコントロールタワーには金融関連の省庁が入っていない。金融特有の事情を誰がどの窓口で調整するのかが、ここで引っかかる。
政府は施行初期の混乱を減らすとして、事実調査権の行使や過料の賦課といった執行を最低1年以上先送りするとの立場を示した。この1年は企業に与える猶予であると同時に、政府が基準を埋めなければならない期限でもある。科学技術情報通信部長官は3年ごとにAI基本計画を立てなければならず、国家人工知能戦略委員会は法定委員会に格上げされる。制度の骨組みは立ち、肉づけは施行令と告示で行われる。
法律を作った理由そのものははっきりしていた。電気通信事業法の利用者利益侵害禁止条項ではアルゴリズムが生み出す差別を捉えにくく、情報が流通し公開される状況を前提に組まれた情報通信網法ではAIが情報を新たに作り出す局面を扱いにくかった。空白を埋めようと作った法律が再び空白を残すことにならないためには、残る期限のうちに判定基準と境界事例が文書として出てこなければならない。
この法律がきちんと回れば、利用者が経験する変化は素朴で具体的だ。相談画面を開いたとき相手が人かどうかを最初の一行で知り、ダウンロードした画像にこれは作られたものだという表示が残り、融資が断られたとき何がその判断に働いたのかを尋ねる窓口ができる。今はその三つがいずれも準備中だ。次の1年で企業が弁護士と過ごす時間が減る分だけ、利用者が画面で確認できるものが増える。
