人工知能の発展と信頼基盤の造成などに関する基本法、いわゆるAI基本法が22日から施行された。AIを扱う包括的な法律を先に制定したのは欧州連合だが、法律全体を一時点で一斉に適用した事例は韓国が初めてだ。欧州連合は高リスク・汎用AIの規制を段階별に分けて執行する方式を選んだ。施行3日目の今、産業界の関心は法が何を禁じているかより、何を空けておいたかに向いている。
新たに生じた義務は大きく三つに分かれる。第一は透明性の義務で、生成AIで作られ外部に流通する画像・映像・音声には「AI生成物」であることを表示しなければならない。第二は高影響AIの義務、第三は学習の演算量が大きい超高性能AIに付く安全性確保の義務だ。政府はこの法律の重点が規制より振興にあるとして、「必要最小限の規制の原則」を強調している。
表示義務の主体は生成AIサービスを提供する事業者だ。そのサービスを使った個人は義務の主体ではない。アニメーションやウェブトゥーンのような一般的な結果物には、目に見える表示のほかにデジタル透かしのように機械だけが読み取る方式も認められるが、ディープフェイク映像については利用者が明確に見分けられる可視的な表示を付けなければならない。チャットボットのように内部のサービスでのみ使う場合は、画面の構成やロゴでAIの活用を知らせればよく、画像・映像をダウンロードしたり共有したりする時点からは認識可能な透かしが必要になる。
安全性の義務は事実上空いた欄だ。対象は学習に使われた累積演算量が10の26乗FLOPs以上のモデルだが、政府はこの基準を満たすモデルはないと明らかにした。将来のモデルのためにあらかじめ引いておいた線に近いという意味だ。一方、高影響AIは今すぐ判定が必要な領域だが、政府が規制対象の事例として挙げたのはレベル4以上の完全自動運転程度にとどまる。
ここから議論が始まる。最終的な意思決定の過程に人が介入すれば高影響AIの規制対象から除外されるが、どの程度の介入を介入とみなすかの判定基準は確定していない。形式的な承認手続きを挟むだけで義務を免れられるとすれば、採用や融資の審査のように人の暮らしを直接揺るがす領域が規制の外に置かれる余地が生じる。
現行法は「影響を受ける者」を定義しているだけで、その人が決定の理由を問う権利や異議を申し立てる権利は盛り込んでいない。個人情報保護法の説明を求める権利も「完全に」自動化された決定にのみかかるため、人が一度介入した時点でその権利も閉じる。
表示義務にも似た空欄がある。個人がAIで作ったコンテンツをプラットフォームに上げる際に生成物の表示を消してもAI基本法違反にはならない。ディープフェイクを悪用した場合であれば性暴力処罰法や情報通信網法のような既存の法律で扱われるが、表示の削除そのものを狙った条項はこの法律にない。この空白を埋めようとする情報通信網法の改正案が国会に発議されている状態だ。
制裁の強度も欧州連合と比べると質が異なる。欧州連合は違反時に3500万ユーロまたは全世界の年間総売上高の7%のうち大きい金額を課徴金として科すのに対し、韓国は最大3000万ウォン水準の過料を科す。高リスクAIについて欧州連合が提供者と配布者の双方に義務を負わせるのと違い、韓国はAI事業者にのみ義務を負わせる。罰の大きさより義務を負う者の範囲が狭いという点が、より実質的な違いだ。
政府は高影響・安全性・透明性の規律について、少なくとも1年以上は事実調査と過料の賦課を先送りすることにした。その間は調査の代わりに「AI基本法支援デスク」を通じたコンサルティングを提供し、施行前には説明会を開いて規制の適用事例と透明性確保のガイドラインを公開した。この猶予は処罰を先送りする時間というより、判定の基準を実際の事例で埋めていく時間に近い。法律には3年ごとに人工知能基本計画を立て、国家人工知能戦略委員会を置く根拠も併せて盛り込まれた。
振興の側の仕組みは比較的緻密だ。研究開発と学習用データの構築、導入・活用の支援、創業と融合、専門人材の確保、AIデータセンターと集積団地の造成まで、全周期の支援体系が入った。学習用データを一か所で受け取れる統合提供システムの根拠も設けられた。規制の欄が空いている間に、支援の欄から埋めていくという設計だ。
利用者の立場ですぐに変わるのは画面上の小さな表示一つだ。ダウンロードした画像に透かしが付き、ディープフェイク映像の前に案内の文言が出る。融資の審査で断りの通知を受けたとき、その決定にAIがどれだけ介入したのかを問い合わせる窓口は、これまで開かれていない。これから1年、見守るべきは高影響AIの一覧に自動運転のほかに何が加わるかだ。
