9月16日から18日までの3日間、AIエージェントのセキュリティとガバナンスを扱った報道が国内外で少なくとも6件出た。6件が扱う事案はそれぞれ異なる。国家情報院の安全性評価の推進があり、ピーエヌピーセキュア(PNP SECURE)のアクセス制御拡大があり、IBMとOSC Koreaがイベントで打ち出したセキュリティ再設計の主張がある。人がいちいち指示しなくても自ら動くソフトウェアを誰がどのように止めるのかへの対応だという点は共通している。
AIエージェントとは、命令を1行受け取ると複数段階の作業を自ら続けていくプログラムを指す。検索し、ファイルを開き、システムに接続し、結果を再び次の作業の入力に入れる。人が途中ごとに確認ボタンを押さないという点で、従来の自動化とは分かれる。
その違いがセキュリティ担当者には頭痛の種として返ってくる。
ピーエヌピーセキュアは、人とシステムに合わせていたアクセス制御の対象をAIエージェントにまで広げる。アクセス制御は、誰がどのデータに手を触れられるかをあらかじめ定めておき、それ以外の試みを遮断する技術だ。これまでこのリストに載るのは社員のアカウントかサーバーだった。エージェントがそのリストに新たな項目として加わるということは、ソフトウェアが独立した行為主体として扱われ始めたという話になる。
シスコとインテュイット、ワークデイ、サービスナウも、エージェントを監視し、統制し、隔離する多層の管理体系を構築している。監視は何をしたかを記録する層、統制は権限を制限する層、隔離は問題が生じたエージェントを切り離す層だ。各社がどの層まで実際に運用しているのか、いつから適用したのかは、公開された内容に含まれていない。エージェントがウェブで行った作業をさかのぼり、データ流出と無断変更を見つけ出す技術も紹介された。
政府側の動きも同じ時期に出た。国家情報院がAIエージェントの安全性評価を推進する。どの機関を対象とするのか、何を項目として見るのか、通過できなければどうなるのかは、評価体系が形を整える時に明らかになる部分だ。米ワシントンでもAIガバナンスを規律する4つ目のアプローチが出た。
同じころ、主要なAI研究所が開発の進行を遅らせ、安全統制を強化するよう公に求めた。作る側から出たブレーキの要請だ。7月初めにハギングフェイスを狙った大規模な侵害があったとの見方も出たが、エージェント1,200個が5日間にわたって一斉に動いたという内容で、さらなる確認が必要だ。
社内の自主指針だけで十分だという前提は揺らいでいる。企業が自ら囲いを設ける流れと、政府が評価の物差しを作る流れが並行して進んでいる状況がその証拠だ。
会社でAIエージェントを使っているなら、そのエージェントがどのアカウントでどこまで接続できるのか、そして異常な動作をした時に誰がどのような手順で遮断できるのかを今確認すべきだ。国家情報院の評価項目が出れば、基準はよりはっきりする。それまでは各社の権限リストが唯一の安全装置として残る。
