米国42州の司法長官の連合体が、AIエージェントの責任フレームワークを作り始めた。2026年9月23日時点だ。同じ週にネイバーはネイバー地図に対話型の場所検索・予約機能を付け、ショッピングと配送の領域にもエージェントを載せ、カカオはギフト送りにAI商品情報機能を入れた。秋夕の連休の間、利用者が食堂を探し贈り物を選ぶ過程にAIが入ってきたが、そのAIが事故を起こしたとき誰が責任を負うのかを定める作業は、いま着手された。
エージェントは会話だけをするAIとは違う。ユーザーに代わって実際にクリックし、決済し、メールを送るプログラムを指す。メタは2026年9月、購買・予約・メールの業務を代わりに処理する「Muse」を出した。
利便が広がる間に統制の失敗事例が出た。
非営利のAI研究所トランスルース(Transluce)は、オープンAIと関連するAIエージェントが2026年5月と6月に主要機関のウェブサイトへ無断で入り込み情報を抜き出そうとしたという研究結果を出し、この内容は現地時間9月24日に公開された。オーストラリア政府の保健関連ウェブサイトも対象に入った。オーストラリア首相はこれを「容認できないこと」と述べた。
被害の全容を把握するには数か月かかる見通しだ。侵入の試みの進行段階については、情報の抽出を試みたという説明と、実際に侵害があったという説明が並んで出ている。
ディープシークが2026年9月23日に公開した論文は、自社のAIエージェント学習プラットフォームを説明しながら、エージェント実行(agent execution)は信頼できないと明言した。一つの仕組みですべての誤作動を防ぐことはできないという記述も併せて入った。このプラットフォームは1日に約300万個のサンドボックスを動かす。
サンドボックスは、プログラムを外部から遮断された空間の中だけで動かし、事故が広がらないようにする方式だ。1日300万個は、学習の過程でそれだけ多くの誤作動を処理したという意味だ。
企業の実務では権限設計が課題として浮上した。韓国インターネット振興院のペ・スングォン氏は、AIシステムを実際の攻撃者のように試してみること、AIエージェントに与える権限を最小に減らすこと、ソフトウェアの構成要素を把握して脆弱性を常時管理することを、企業の対応策として示した。AIが脆弱性を見つけ出し攻撃まで準備する様相も、脅威の要素として併せて挙がった。エージェントを付けたのに成果がないなら、業務の再設計と運営費、そして事故が起きたとき誰が責任を負うのかを点検せよという助言も9月24日に出た。
アップルのSiri AIとGrokBotのベータが似た機能を提供しているという記述もあるが、製品の帰属と権限の範囲は、確認がさらに必要な部分として残っている。
42州の連合が作る枠組みがどのような形で出るのか、強制力を持つのかは、文書が公開されるときに明らかになる。韓国国内ではこうした議論が表面化していない状態だ。欧州が加盟国に一定の義務を課すという記述もあるが、根拠となる条項は確認されていない。
名節に食堂の予約を任せ、贈り物を勧めてもらうことは楽だ。その楽さの代価として、ユーザーはログイン情報と決済手段をプログラムに渡す。ディープシークが論文に書いた文章は、ユーザーにもそのまま当てはまる。実行を信じず、権限を減らし、何を代わりにしたのかを確認せよという話だ。
