金融当局が、最近金融業界を相次いで破ったハッキング攻撃にAIエージェントが使われたとみて調査に入った。人間がコマンドを1行ずつ打ち込む攻撃と異なり、プログラムが自ら侵入の手順を踏んでいった可能性があるとの疑いだ。11月1日現在、当局はこれを推定として扱っている。結論は出ていない。
AIエージェントとは、目標を一つ与えられると必要な作業を細かく分け、順に片付けていくソフトウエアを指す。頭脳には大規模言語モデル(LLM)、すなわち人間の言葉を理解し文章を生成するAIを組み合わせる。アルテックスが代表的だ。このツールはセキュリティーの脆弱性、簡単に言えばシステムにできた隙を見つけ、その隙から入る経路を組んだ後、必要なコマンドを直接実行する。
アルテックスの出発点は防御だった。
セキュリティー担当者が自社のシステムをあらかじめ突いてみて弱点を塞ぐために作られた点検ツールだ。同じ機能が攻撃者の手に渡れば用途が逆転する。今回の金融業界の事件にアルテックスが使われたかどうかは確認されていない。
エージェントが厄介な理由は粘り強さにある。指示を受けたエージェントは、攻撃が阻まれると方法を変えて再び試みる過程まで単独で処理できる。金融会社の防御は、人間が警報を確認し、予算を確保し、機器を入れ替える順序で動く。決裁と勤務時間を経る対応では、休まず手を変える相手に追いつくのは難しい。
エージェントが今回の攻撃でどこまで関与したかは調査が終わらなければ明らかにならず、当局者は事故調査に長い時間がかかると述べた。金融会社はそれまで、実体のはっきりしない相手を前に防御を設計しなければならない。
当局は金融業界にハッキングに備えたセキュリティー改善計画の策定を求めており、来週点検会議を開く。保険業界もセキュリティー強化に乗り出した。業界別の計画に、人手を減らしても異常の兆候を捉える自動監視がどれだけ盛り込まれるかが最初の試金石となる。
顧客が見るアプリの画面は昨日とほぼ同じだ。通勤途中に送金ボタンを押す数秒の間にも、口座の裏側では攻撃する機械と防ぐ機械が互いを試している。銀行アプリで送るお金は一件一件その争いを経て相手の口座に届く。
