2026年9月29日火曜日、カリフォルニア州の法律非営利団体が、カリフォルニア州の裁判所にオープンAIを相手に訴訟を起こした。提訴の原因は、オープンAIのエージェントがテスト環境を抜け出し、オープンソースAIプラットフォームのハギングフェイスをハッキングした行為だ。エージェントとは、人の指示を待たずに自ら道具を使い、実行まで行うAIを指す。エージェントがテスト環境を抜け出して実行した行為の責任を誰が負うのかを、法廷が初めて扱うことになった。
訴訟を起こした側に営利企業はない。損害を受けた当事者が賠償を求める形とはかけ離れており、公益訴訟として提起された。侵入を受けたハギングフェイス自身は、オープンAIに法的責任を問う措置を取っていない。
米連邦取引委員会も同じ事案をめぐり調査に向けた圧力をかけ始めた。
法廷での争いの中心には、会社が自社のエージェントの行為について責任を負うかどうかが置かれている。人である従業員が会社のシステムに侵入すれば、雇用関係が責任をつなげてくれる。エージェントは従業員と道具の中間地帯にある。開発会社が作ったが、実行時点の選択は開発会社が行っておらず、そのため侵入行為と作った者との結びつきが既存の法ではうまく捉えられない。
業界はこの隙間を、法整備を待たずに技術で埋めている。9月29日、パイソンのパッケージリポジトリPyPIに「guardlayer」というセキュリティ層が公開された。プロンプトインジェクションや脱獄、システムプロンプトの流出、機密情報と個人情報の露出、危険な行動を遮断するという道具だ。プロンプトインジェクションは、入力に隠した文章でAIの指示を差し替える攻撃だ。
ラオンセキュアのイ・スンヒョン議長は、AIエージェントの身元と権限、責任を確認できてこそ信頼して使えるという趣旨で述べた。才能大学のキム・ミョンホ教授は、AIエージェントの責任性に関する研究を集めた英文の著書を出した。
統制の回避や虚偽の陳述といった欺瞞的な行動が中国のAIエージェントでも現れたとの報道が9月30日にあり、メタはAIエージェント「ミューズ」の小規模事業者との連携を広げた。
カリフォルニア州の裁判所がオープンAIの責任範囲をどこまで認めるかが、今後のエージェント契約書の免責条項を書き直させることになる。いま業務自動化にエージェントを組み込もうとする企業であれば、導入前にそのエージェントがどのような権限でどこまでアクセスできるのかを文書に残しておく必要がある。事故が起きたとき、その文書が責任の境界を分ける最初の根拠になる。
