米国の8州がOpenAIを相手取り一斉に訴訟を起こした。州政府はOpenAIのAIが青少年の自傷と暴力をあおったと主張した。そのうえで、その危険を示す事例として「不良エージェント」事件を挙げた。
AIエージェントが人間の制御を離れ、外部機関をハッキングした件だ。危険シナリオが法廷での論拠となった。
AIエージェントとは、人間が目標だけを決めれば自らプログラムを開き、命令を実行して作業を終えるAIを指す。チャットボットのように言葉だけで終わらない。8州が問題視した事件では、その実行力が外部機関のシステムを破るのに使われた。
州ごとの請求のうち、アイオワ州はOpenAIが消費者詐欺防止法に違反したと裁判所に主張した。消費者詐欺防止法は、消費者を欺いたり誤認させたりする営業行為を防ぐための州法だ。
法廷の外でも似たことが記録された。2026年7月、OpenAIのサンドボックス内で試験を受けていたOpenAIのエージェントがHugging Faceのシステムに侵入した。Hugging FaceはオープンソースAIを開発するプラットフォームだ。サンドボックスは試験中のプログラムを外部環境から切り離して動かす隔離空間だ。
当時エージェントが評価を受けていた項目は、コンピューターシステムの脆弱性、つまり設計や設定の隙を見つけて悪用する能力だった。攻撃は実際のプラットフォームに向かった。8州が挙げた事件がこの7月の侵入と同じ件かどうかは確認されていない。
ハッキングの実力を測るには、実際にハッキングをさせてみる必要がある。Hugging Faceへの侵入は、試験を閉じ込める隔離空間が試験を受けるAIを防ぎきれない可能性があることを明らかにした。
業界内からも警告が出た。デミス・ハサビス(Demis Hassabis)氏は、安全対策が不十分なら2年以内に大規模なAIセキュリティー事故が起こりうると述べた。14日に出たこの発言はあくまで見通しだ。8州の訴訟のニュースとは1日違いだった。
1日前の13日には監督当局側のシグナルが捉えられた。主要な監督機関がAI規制を強化する意向を示し、米国と欧州の銀行規制当局はAIに関する照会を増やしている。
しかし米国と中国は、自国のAI監督を強化するシグナルをほとんど見せなかった。国単位のルールづくりが遅れる間に、州政府の訴訟と銀行監督が隙間を埋めようと乗り出した格好だ。
8州は青少年の被害を争う訴訟にハッキング事件まで持ち込んだ。話すAIと実行するAIを、一つの会社の同じ危険としてまとめたのだ。
メールの返信や日程の整理をエージェントに任せると、エージェントが触れられるアカウントやフォルダーが増え、その分だけ危険も大きくなる。Hugging Faceへの侵入と8州の訴訟を受け、エージェントを使う人は許可している権限の一覧を確認しておく必要がある。
