病院の廊下の一角で画像読影補助プログラムを実演していた5人のチームを思い浮かべてほしい。アルゴリズムは動き、臨床医も関心を示す。ところが次の段階に進むには、説明資料、リスク管理記録、データ出所の整理、事後モニタリング計画が必要になる。このチームでその仕事をする人は何人だろうか。
韓国国内のAI規律は法律から施行令へ、さらに下位の告示へと下りながら一つの体系を整えた。行政予告の手続きが終わり、事業者が何を守るべきかは文章としてはおおむね整理された。国際機関のレベルでも、企業が自らAI管理の状態を点検できるよう助けるデューデリジェンス指針の議論が続いた。規範が文書になる局面は過ぎ、いまはその文書を誰が実際に履行するのかが残っている。
規制の強度と同じくらい重要なのがその分布だ。高リスクに分類されやすい領域は、医療・診断・健康管理のように人の体に直接触れる分野だ。ところがその分野に飛び込んだ韓国国内の事業者の相当数は、人員数十人規模の初期段階の企業だ。法が求める安全管理体系は大企業の法務順守組織には業務の一行だが、彼らには製品開発と引き換えにしなければならない選択になる。
だから安全規制のコストを誰がどう払うのかを設計しなければ、韓国国内の医療AIは危険なサービスをふるい落とすかわりに、小さな会社をふるい落とす方向に整理される。
反論は明確で強い。医療は失敗の代価を患者が払う領域なので、規模が小さいという理由で検証を軽くするのは危険だ。同意する。
緩和すべきだという話ではない。同じ基準を求めつつ、その基準を満たすのにかかる実務の負担を個々の企業がそれぞれ一から作り出すよう放置する設計が問題だという意味だ。
標準の文書様式、共用の検証データセット、規制対応を代わりに処理してくれる共同インフラは、安全を下げないままコストだけを下げる。臨床検証に使うデータを病院ごとに新たに契約して確保しなければならない状況が続けば、結局は病院ネットワークを持つ側だけが生き残る。市場を分ける基準が安全性から調達能力へ移っていくが、これは規制が意図した結果ではない。
制度が完成したという言葉は、しばしば終わったという意味に読まれる。しかし規範が条文として整理された時点は、むしろ履行コストを観察し始める時だ。告示以降、韓国国内の医療AI企業の認可申請の件数がどう動くのか、初期段階の企業の新規参入が減るのかが、この設計の成績表になる。その統計は数四半期後にようやく形をなすだろう。
患者にとってこの議論は抽象的ではない。読影補助プログラムが大きな病院にだけ入るのか、地方の中小病院の診察室にも入るのかが、ここで分かれる。安全を守るコストを社会が共に分かち合うとき、診察室の画面に映る補助所見の一行は、ソウルの大病院の外でも見られるようになる。
規制が守るべき対象は技術の一覧ではない。その画面に向き合う人の一日だ。
