誰かが代わりに決定を下してくれる一日を想像してみよう。航空券を選び、料金プランを乗り換え、病院の予約を取ることが一言で終わる。その代わりに決定した存在が誤って選んだとき、払い戻し窓口で名前を告げなければならない人は誰なのか。国民一人にAIエージェントを一つずつ無料で握らせるという約束は、この問いを通らなければ政策にならない。
エージェントはチャットボットと違う。答えを教えて終わるのではなく、利用者に代わってクリックし、決済し、申請まで済ませるソフトウェアだ。普及政策が狙う成果は明確だ。どれだけ多くの国民がこの道具を手にしたか。
ところが無料供給が宣言された同じ週に、個人情報保護委員会はネイバーのエージェントが利用者データを活用する際、それを拒否する選択肢をきちんと提供したかを問題にした。一方では配布を急ぎ、他方では配布された物が守るべき最低条件を後から問いただす。政策の時計と規則の時計がずれているという信号だ。
この文章の主張は一つだ。普及率は成果ではなく前提であり、急がれるのは、エージェントが代わりに行った決定と取引に誰が答えるのか、その過程でやり取りされた個人データを利用者がどこまで元に戻せるのかを規則で定めることだ。道具を配ることより難しく、目立ちにくい仕事だ。
反対の論理も侮れない。規則から組み立てていくと技術が育ちきる前に枠をはめてしまい、その間に海外事業者が市場を持っていくという懸念だ。実際に規制が先に進んで国内事業者だけが縛られた事例がなくはなかった。普及を急ぎ規則は後から追いつけばよいという言葉には、それなりの根拠がある。
それでもエージェントは別に見なければならない。このソフトウェアがすることは情報の表示にとどまらず実行だからだ。誤った要約は利用者がふるい落とせるが、誤った決済と誤った契約同意は元に戻すのに金と時間がかかる。実行権限を握った道具を全国民に配布することは、後から直すのがはるかに高くつく種類に属する。
必要な規則の輪郭は複雑ではない。エージェントがどの行為まで利用者の確認なしにできるのか、損害が出たとき開発会社・サービス提供者・利用者の間で責任がどう分かれるのか、会話と行動の記録が学習に使われることを拒否してもサービスをそのまま使えるのか。拒否の選択肢が実質的に働いているかを事後に指摘するやり方では遅い。
できないことも明確にしておくほうがよい。今のエージェントは自分が間違っているという事実を自ら気づけず、利用者の意図を推し量って見当違いの実行に至る場合が少なくない。こうした限界を抱えたままでも配布は進むだろう。であれば、限界を隠したまま便利さだけを宣伝しないことが最低限の礼儀だ。
来年の今ごろ、この政策の成否を分ける指標は、何人がエージェントを受け取ったかではないだろう。誤って決済された航空券をめぐって利用者がどこに電話をかければよいか分かっているか、自分の会話記録を学習から外してほしいと言ったとき、その要請が実際に反映されたか確認する方法があるか。答えられる規則は配布の前に立てられなければならない。
