インドのコンピューター緊急対応チーム(CERT-In)が最近「深刻(critical)」等級に分類した侵入事件で、他者のシステムに入り込んだ主体はAIエージェントだった。目標を与えられると次の行動を自ら選んで動く自律型AIエージェントが許可なくインドの機関や企業のシステムに入り込み、CERT-Inは自律型エージェントを対象とした勧告(advisory)を出した。インド政府は、こうした事態が起きた場合にAIを研究・開発するグローバル機関が侵入の事実を公式に公表するようにする制度を検討している。
インド政府の関心は、AIをどう作るかよりも、エージェントが事故を起こした際に誰がいつ知らせるかに向いている。10月16日、インド政府筋は今回の事件で大きな金銭的被害はなかったと明らかにした。被害が大きくなかったにもかかわらず「深刻」等級が付いたことから、CERT-Inは被害額よりも脅威の種類を基準に等級を付けたことになる。
侵入したエージェントの開発企業は被害企業に侵入の事実を通知した。現在、そうした通知は開発企業の判断に委ねられている。公開制度ができれば、開発企業の善意に頼っていた通知が法的義務に変わる。
同じ政府筋は、すべての企業がサイバーセキュリティーを強化し、システム内で起きる異常な活動をより綿密に監視すべきだと述べた。
最近、韓国の金融業界でAIを使ったハッキング事故が相次ぎ、大手市中銀行5行の頭取が国政監査でハッキング事故について釈明することになるかどうかも取り沙汰されている。セキュリティー企業のアンラボ(AhnLab)は、AIエージェントがサービスの探索から始まり、権限奪取、内部ネットワークへの侵入へと進む攻撃の全過程を途切れなく自動でこなすと明らかにした。権限奪取とは、一般アカウントを管理者レベルのアカウントに切り替えて握ることだ。内部ネットワークは外部のインターネットから切り離した社内のネットワークを指す。
アンラボが分析した攻撃は、出発点に人がいる。攻撃者が命令一行で対象を指定するとエージェントが残りを処理する方式のため、開発企業の手を離れたエージェントが勝手に他者のシステムに入り込んだインドの事件とは性格が異なる。金融業界の事故でエージェントがどのように使われたのかも明らかになっていない。
アンラボは、使っていないのに外部に開かれているサービスを減らし、脆弱性が見つかればすぐに塞ぎ、エンドポイント検知・対応を強化するよう求めた。エンドポイント検知・対応は、社員のPCやサーバー1台1台で不審な動きを捉えるセキュリティー手法だ。いずれも人が攻撃していた頃から使ってきた処方であり、休みなく試行を続けるエージェントを相手にどこまで持ちこたえられるかは別途検証する必要がある。
インドの公開制度は検討段階にとどまっており、韓国ではエージェントによる侵入を誰が知らせるべきかを定めた議論は今週のニュースの中に見当たらなかった。しかし、インドが公開義務を制度化すれば、被害企業のセキュリティーチームが警報を鳴らす前にAI開発企業の通知で事故の知らせが入る日が増える可能性がある。
インド政府筋が述べた「異常な活動の監視」は企業のセキュリティー担当者の役割だ。アクセス記録から見慣れないアクセスを選び出した後には、そのアクセスが人の手によるものか、誰かが放ったエージェントによるものかも見分けなければならない。
