3時間49分で終わった。セキュリティスタートアップのコーザルセキュリティ(Causal Security)のAIエージェント「サイファー(Cipher)」が、電力網と加速器を制御するソフトウェアの脆弱性をすべて見つけ出すのに要した時間として記録された。米サイバーセキュリティ・インフラセキュリティ庁(CISA)は当該ソフトウェアのリモートコード実行の危険性を警告し、パッチを含むバージョン7.0.11が勧告文と同じ日に配布された。
午前9時に動かしたなら午後0時49分に終わる作業だ。AIエージェントとは目標を受け取ると複数段階の作業を自ら続けていくプログラムを指し、リモートコード実行は離れた場所にいる攻撃者が他人のシステムで自分の命令を実行できるようになる欠陥を意味する。半日もかからず探索が終わるなら、欠陥のリストは人が検討するより速く膨らむ可能性がある。
計測をいつ始めていつ止めたのか、人がどの程度手を貸したのかが明らかになるまで、3時間49分は参考値として読むべきだ。
11月2日にはウェブ開発言語PHPのゼロデイ問題が報じられた。ゼロデイは修正パッチが出る前に明らかになった脆弱性を指し、防御側はダウンロードできる修正版なしで持ちこたえなければならない。電力網の警告と同じ事件としてまとめる根拠はない。
AIエージェントを利用した自動化侵入攻撃もAI発のセキュリティ問題の事例として報じられた。脆弱性を見つける側と突破する側の双方がAIエージェントを使った事例だ。
サイファーの事例で明らかになった成果は見つける作業までだ。7.0.11のようなパッチが出ても、実際に使っている場所に導入されるまでリスクは減らない。発見だけが速くなれば、人の承認と配布の手続きが最も遅い区間として際立たざるを得ない。
監督も課題だ。米国防総省(ペンタゴン)のセキュリティネットワークで「個人AIエージェント」が2カ月間稼働していたとの報道が11月1日に出ており、承認を受けていたのか、侵害に発展したのかは明らかになっていない。3時間49分の作業をこなすツールがあるなら、2カ月は非常に長い時間だ。
金融当局がAIエージェントの脅威に対抗するハッキング防御戦略を準備中だとの報道も同じ日に出た。戦略が公開されれば、欠陥の発見からパッチ適用までにかかる時間をどう短縮するのか、金融業界内で動くエージェントをどう監督するのかが盛り込まれているかを見ればよい。
セキュリティ担当者の1日も変わる可能性がある。午前9時に出勤してエージェントを動かせば昼ごろに欠陥のリストがモニターに表示され、午後はどの欠陥を最優先で直すかを選んで承認する作業で埋まる。欠陥探しを機械が担うほど、人の勤務時間は修正と承認により多く使われる。
