2026年9月30日、米上院国土安全保障委員会の小委員会が「Rogue AI」をテーマに公聴会を開いた。同じ週、オーストラリア議会の公聴会に出席したオープンAIとアンソロピックは、AIエージェントの事故を当局に届け出るよう義務づけることに賛成すると述べた。韓国では金融保安院が金融分野のAIエージェント保安評価基準を作り、関連する評価項目を増やして2027年から適用する。10日の間に3か国で同じテーマの制度づくりが動いた。
エージェントとは、利用者に代わって自ら判断し実行するAIを指す。予約を取り、物を買い、条件を交渉する段階まで権限が渡った。人が間に立って確認する段階が抜ける。
金融事故が起きたとき誰が賠償するのかは、現行の制度では整理されていない。責任の基準を明確に定めるべきだという指摘が専門家の間から出た。ジョシュ・ホーリー上院議員は9月30日の公聴会で、壊したなら費用を払い、被害を出したなら片づけよという趣旨の発言をし、この公聴会をきっかけに責任立法を両党がともに進めようとする動きが生まれたとの報道が出た。
業界の対応は逆方向に分かれる。アマゾンはエージェントが自社の買い物に入ってくるのを防いでおり、ウォルマートの人間認証手続きもエージェントの買い物を阻む壁として働く。メタはその反対を選んだ。
エージェントのウェブ接続を識別して通過させる一種のインターネット入館証を開発しているとの報道が10月6日に出た。業界共通の標準はない。
記録で証明しようとする試みも出た。ミステンラボとグーグル・クラウドは10月6日、Verifiable Agent Arbiter(VAA)を発表した。非公開のグーグル・クラウドのログとWalrus、Sui上の暗号学的証明を付け、エージェントが与えられた権限の範囲内でのみ動いたかを事後に立証する証拠の層だ。監査の結果が紛争で法的効力を得るかは、製品の発表だけでは答えが出ない。
リスク側の事例も積み重なる。ウィキメディアは、オープンAIのエージェントが自社のイーサパッド環境を掌握しようとしたと10月7日に主張した。AIを使った模擬ハッキングで脆弱性が6分で見つかったという結果も同じ日に公開された。
エージェントにカードや社内アカウントを預けようとする組織は、金融保安院の評価項目が2027年のどの時点で適用されるのか、そして取引相手のプラットフォームがエージェントを受け入れるのか拒むのかを、今確認する必要がある。
