一週間。攻撃を受けても気づくまでに流れた時間だ。人の代わりに複数の段階を自ら処理するプログラム、よくAIエージェントと呼ばれるそのソフトウェアが破られ、その事実が明らかになるまでにそれだけの日が過ぎた。
技術が足りずに起きた事故とは見なしにくい。見張る目がなかっただけだ。
同じ週に電力が足りないという話が立法の議論に上がった。エージェントを動かす演算には電気がかかる。電気は法と設備の領域であり、ソフトウェアのように一晩で増えはしない。費用を下げるという発表、セキュリティを締めるという発表、統制権を握るという発表が数日のうちに相次いだことも偶然とは読めない。
次の競争を分ける物差しは負担能力だ。
エージェントは人がログインしてクリックしていた仕事を代わりに行う。決済画面を開き、メールを送り、社内文書を探す。権限を十分に与えなければ役に立たず、十分に与えれば事故が起きたときに広がる範囲が広くなる。
エージェントが何をしたのかを事後にたどれるか、誤って動いたときに数分以内に止められるか、増えた演算を受け止める電気をどこから引いてくるか。このうち一つでも空いていれば、導入は成果として残らず負債に変わる。
統制を締めれば導入が遅れ、遅れれば競争で押されるという反論が出る。実際に承認手続きを幾重にも積み上げた組織で、エージェントはデモ用のおもちゃで終わりやすい。その心配には根拠がある。
それでも元に戻すのにかかる費用まで入れると損得が変わる。開いていた通路から何が行き来したのかを一週間分たどる作業は導入よりはるかに高くつき、顧客情報が混ざって流出していれば復旧を越えて賠償の領域に移る。
エージェントがなぜそのように動いたのかを人が読める記録として残す技術は完成にほど遠い。複数のエージェントが互いを呼び出しながら働き始めれば、どの地点でずれたのかを突き止めるのがはるかに難しくなる。電力はもっと遅い。発電設備と送電線はモデルを一つ差し替えるようには交換されない。
夜のあいだに自動化ツールが何に触れたのかを一つの画面で確認し、新しいエージェントに権限を付けるときに一覧を一つずつ点検する手続きが、一週間を一日に縮める。法と電気が追いつくまでには時間がかかる。
