「人工知能の発展と信頼基盤の造成等に関する基本法」(AI基本法)が去る1月22日に全面施行され、一カ月を越えた。特定の産業を個別に規律する個別法と違い、AI全般を包括する上位法律であるため、他の法律に特別な規定がなければこの法律が優先して適用される。制定の順序では2番目だが、全面施行では世界で初めてという評価を受ける。ところが施行から一カ月が過ぎた現場の反応は、整理よりも停止に近い。
核心は「高影響AI」という概念だ。法は、AIが出した結果が人の生命・身体の安全や基本権の享有に重大な影響を及ぼしたり危険をもたらしたりする恐れのあるAIを高影響AIと定義する。政府はここに該当する分野を10件指定したとみられ、医療・保健とエネルギー、採用、融資審査が代表的な事例として挙げられる。高影響に分類されると、事業者はリスク管理の方策と結果の説明の方策、利用者保護の方策を備えなければならない。
問題は何が高影響かを分ける線だ。法の施行後も適用範囲が条文の次元で細かく整理されておらず、有権解釈と追加立法の議論が必要だという指摘が学界と産業界の双方から出た。基準が曖昧なら企業は二つのうち一つを選ぶ。過剰に対応して費用を増やすか、決定を後回しにするかだ。
医療の現場がその曖昧さを最も早く実感した。サムスンソウル病院AI研究センターは去る23日、「医療AI時代の法・制度再編セミナー」を開き、高影響AIの分類基準を明確にしてほしいという議論を行った。病院で生成AIは診断より診療録の作成や文書整理のような行政補助に使われる場合が多いが、この領域まで高影響とみるかについての物差しが立っていない。患者の安全に直接触れない業務を規制の対象に含めるかどうかは、病院の導入決定をそのまま左右する。
規制が重複して適用される地点もある。医療AIが医療機器に該当すれば食薬処の認証を受けなければならず、同時に高影響AIに該当すれば科学技術情報通信部の所管する義務まで適用されうる。金在善(キム・ジェソン)東国大法学大学院教授はこうした二重適用の可能性を指摘した。二つの規制が求める文書と手続きがどこまで代替されるのかは整理される前だ。
利用者が実感する部分はもう少し明確だ。生成AIを使った製品・サービスは、AIで作動するという事実を利用者にあらかじめ知らせなければならず、成果物には表示義務が付く。目に見えるウォーターマークを入れるようにする方策も一緒に盛り込まれたという。表示の形態と強度をめぐっては説明が食い違い、開発会社が実際の実装方式を確定しにくい状態だ。
政府はこの法律を「振興70%、規制30%」の均衡法案と説明する。実際にAIの研究開発と学習用データの構築、導入支援、専門人材の確保のような育成規定が法に入っている。法に関する問い合わせを受ける人工知能基本法支援デスクも運営中だ。振興側の条項がいくら厚くても、規制側の30%の境界が曖昧なら、企業はその30%を基準に動く。
外の流れも参考になる。EUはAI法を韓国より先に制定したが、自国の産業保護を理由に施行時期を遅らせる方向に転じた。韓国は逆に全面施行にそのまま入り、その代価として制度設計の隙間をリアルタイムで確認している最中だ。
国内では、AIが利用者のコンピュータ全般を制御できるようにする道具「オープンクロー」が、ネイバーとカカオでセキュリティ上の懸念から遮断されもした。新しい形態のAIが登場するたびに、どの枠に入れるかから改めて検討しなければならない状況だ。
規則がないことより悪いのは、規則があるのにどこまで適用されるのか分からない状態だ。診療録を整理するプログラム一つをめぐって病院の実務者が法務チームに尋ね、法務チームが再び省庁に尋ねる時間の分だけ、患者が出会う診察室の変化は遅れる。境界線を引き直す作業がどれだけ早く行われるかによって、この法律は信頼の土台になることもあり、決定を先送りさせる理由になることもある。
