あるプログラムが利用者に代わってログインし、文章を投稿し、商品を選び、決済の直前まで進んだとしよう。その過程で何かが間違っていたとき、責任は誰にあるのか。利用者なのか、プログラムを作った会社なのか、そのプログラムが出入りしたサービスなのか。この問いにはっきり答えられる人は、今は多くない。
AIエージェントとは、人が毎回指示しなくても目標さえ与えれば複数の段階を自ら踏んで処理するプログラムを指す。ここ数週間の間に、こうしたエージェント同士が文章をやり取りするソーシャルサービスの実験と、人の代わりに商品を選んで買う自律ショッピングの実験が相次いで登場した。同じ時期に、こうしたプログラムが個人の機微情報を漏らしうるという警告も一緒に出た。期待と懸念が一週間に同時に噴き出したが、市場規模を占う話ばかりが大きく、責任を分ける規範の議論はほとんど聞こえない。
自律性を増やす仕事より、責任の所在を定める仕事が前倒しされなければならない。利便性を解き放って安全を後から検証する順序は、ひっくり返されなければならない。
ここでの自律性は技術仕様を超えて権限に関する問題だ。エージェントが自ら判別して動く範囲が広がるほど、事故が起きたときに「人が指示したのでもなく会社が定めたのでもない」というグレーゾーンが広がる。権限は大きくなるのに、その権限に付いた責任の名札は空いている。自律性という言葉は、その空欄をもっともらしく覆う働きをする。
反論は十分に強い。規範を前面に出せば技術が育つ前に押さえつけられるということ、実際に使ってみてこそ危険が何なのか分かるということ。もっともな話だ。
それでも実験と配布は違う。統制された環境で壊す仕事と、実際のアカウントや連絡先や決済手段が結び付いた状態で送り出す仕事は、危険の性格がまったく違う。
だから規制をまるごと求めることではない。何をいつ手直しするかから決めようという意味だ。権限が大きくなるたびに、その権限を誰が承認し、事故の際に誰が引き受けるのかが一緒に書かれなければならない。
法ができるのを待つ必要もない。機能を送り出すチームが自ら定めておける最小限だ。
今できないことも明確に書いてこそ公正だ。エージェントがどのような判別を経てその行動をしたのかを人が追って読めるように残す技術は未完成だ。複数のエージェントが互いにやり取りする中で生じた誤りの出発点をたどり直す方法も見当たらない。事故が起きても原因を特定しにくいという意味であり、原因を特定しにくければ責任も散らばる。
すぐに変えられることは小さい。何かを代わりにしてくれるというプログラムにアカウントをつなぐとき、それが読むだけなのか、書いて送って決済までするのかを一度確認すること。権限をまるごと渡さず、必要なだけ開けておくこと。人の一日が楽になる方法は、完全に手を離すことにあるのではなく、何を預けたのかを知って預けることにある。
