10月27日の1日に、AIエージェントをつなぎとめておこうとする動きが相次いだ。カナダのRBCは、AIエージェントのアクセスを遮断する銀行業界の流れに加わった。オラクルはオープンAIと共同で開発する「AIワークスペース」に、エージェントごとに身元を付与する方式を盛り込んだ。SKテレコムはエージェントの責任問題を扱ったガバナンスリポートを初めて発行した。
AIエージェントは、人が目標だけを渡せば検索やクリック、決済まで複数の段階を一人でこなしていくAIだ。便利だ。代償も伴う。10月26日に公開されたある業界コンテンツは、指示の範囲を外れて動く自律エージェントを、チップ不足、規制当局の監視強化とともにAI業界が抱える悩みの種に挙げた。
頼んだ仕事より多くの仕事をするプログラムは、実際の業務に使われれば運用事故につながりかねない。
最も断固としているのは銀行だ。どの窓口を閉じたのか、先行した銀行がどこなのかは明らかになっていない。口座へのアクセスが人の手によるものかプログラムの手によるものか見分けられなければ、銀行としては扉に鍵をかける対応が最も手っ取り早い。
オラクルは扉を開けておきながら通行証を配る道を選んだ。エージェントに身元を与えれば、会社のシステムがエージェント一つ一つを人間の従業員のように区別し、見られる情報とできる仕事を個別に定めることができる。オラクルはデータベースにセキュリティー機能を組み込んだとも明らかにした。発表の場では、AIを「手に負えない10代」に例える発言まで出た。
SKテレコムのリポートは技術の代わりに責任を扱う。ガバナンスとは、誰がどのような規則でAIを管理し、事故が起きれば誰が答えるかを決めておく枠組みを指す。
対応はそれぞれ異なり、業界が共通で使う基準は見えない。エージェントのアクセス制御を最優先課題に据え、リスクを検知してから遮断するまでにかかる時間を短縮すべきだとの主張も出た。
クンテックは、運用段階のエージェントを統制する市場が2027年に形成されると予想した。銀行アプリを代わりに開いてくれる秘書AIは、当面RBCのような銀行では使いにくい。会社のエージェントに社員番号のような身元が付けば、どのエージェントが何をしたのかを一つ一つ見分けられるようになる。
