「人工知能発展と信頼基盤の造成などに関する基本法」(AI基本法)が22日に施行される。2024年12月26日に国会本会議を通過し、2025年1月21日に公布されてからちょうど1年目だ。これにより韓国はAI規制法を全面施行する世界初の国となる。法制を整えた時期ではEUが早かっただけに、「初」という表現は立法の順序より全面施行の時点に付いた言葉だ。
法の骨格は「高影響AI」という概念だ。人の生命・身体の安全や基本権の保護に重大な影響を及ぼしたり危険をもたらす恐れのあるAIを別にまとめ、より重い義務を負わせる方式だ。適用領域は10種類に区分され、エネルギー・保健医療・犯罪捜査・交通などがここに含まれる。高影響AI事業者はAIのライフサイクル全般で危険を識別・評価する管理体系を整え、その内容を文書に残さなければならない。
一般事業者にかかる義務は二つが目を引く。サービスや製品にAIを使う事業者は、その事実を利用者に事前に知らせなければならない。生成AIが作った音声・画像・映像には、AI生成物であることを知らせる表示を付けなければならないが、目に見える透かしに加えて機械が読み取る不可視の表示も含まれる。AIを補助手段としてのみ使った成果物まで表示の対象なのかについては、政府が公式の解釈を出していない。
問題はどこまでが高影響なのかを分ける線だ。判定基準に「その他大統領令で定める領域」が入っており、範囲が包括的だという指摘が出ている。科学技術情報通信部は単一の数値基準に代えて、領域別の詳細項目をたどるフローチャートで選り分ける方針だ。自動運転車の場合、人が介入するレベル3は高影響から外れレベル4から含まれるといった具合に、同じ技術も自律性の段階によって規制の強度が変わる。
現場の準備状況は法が定めた日程に追いついていない。スタートアップアライアンスが国内のAIスタートアップ101社に尋ねたところ、「AI基本法への対応計画を立てた」という回答は2%にとどまった。「内容をよく知らず準備もできていない」と「法は知っているが対応が不十分だ」がそれぞれ48.5%で、98%が実質的な対応体系のないまま施行日を迎えるという意味だ。政府が法の施行とともに最低1年以上、過料など直接の規制を猶予し啓発に力を入れることにした背景だ。
外を見ると規制の時計はむしろ遅くなる方に回っている。EUはAI法を最初に作ったが、核心である高リスクAI規定の適用は2026年8月に定められており、欧州委員会が規制緩和案を盛り込んだ「デジタル簡素化方案」を出したことで2027年末まで押されるという見通しも出ている。米国は連邦レベルの単一法に代えて州ごとの対応が積み重なった。50州のうちアラスカとオハイオを除く48州がAI関連の州法を置き、罰則規定まで設けたところは13州だ。
州法の焦点は産業全般に広がるより、被害が実際に表れた地点に集まっている。ディープフェイク規制が最も多く、チャットボット6州、医療関連AI10州、公的機関のAI利用13州の順だ。アーカンソー州はわいせつなディープフェイクの制作・配布を刑事処罰の対象と定め、カリフォルニア州は利用者が自殺に言及した場合にチャットボット事業者が適切に対応するよう義務化した。一方、トランプ大統領は昨年12月に州単位のAI規制を遮断する大統領令に署名し、州と連邦が互いに反対側へ動いている。
韓国の法の実効性を分けるもう一つの変数は国境だ。AI基本法は一定の要件を備えた海外のAI企業に国内代理人を指定するよう定めたが、どの企業が該当するのか、指定しなかった場合にどう強制するのかは今も手に取れない。国内企業だけが誠実に文書を積み、海外のサービスはそのまま使われる状況であれば、規制は市場シェアだけを揺さぶる。施行令の立法予告が終わった昨年12月22日まで、産業界と市民団体の両方から定義が曖昧だという指摘が出たのも同じ文脈だ。
法が残した仕組みは規制にとどまらない。AIの危険を研究・評価するAI安全研究所が法に根拠を置いて昨年11月に開所し、科学技術情報通信部長官は3年ごとに人工知能基本計画を立てなければならない。大統領が委員長を務める国家人工知能委員会で官民がともに戦略を練る枠組みも設けられた。与野党から改正案が相次いで発議されており、施行された法がそのまま固まる可能性も大きくない。
利用者の立場で22日以降変わることはささやかだ。相談窓口を開いたとき相手が人なのかAIなのかをまず知らせ、流れてきた映像にAIで作ったという表示が付く程度だ。その小さな告知が採用の結果や融資の審査、救急室の読影につながる地点でも働くのかは、猶予期間の1年が過ぎて過料が実際に課され始めるときに明らかになる。世界で最も先にスイッチを上げた国の本当の成績表は、フローチャートが公開され最初の判定事例が積み重なる瞬間から付けられる。
