英国の議員100人以上が拘束力のあるAI規制の立法に名を連ねた。超党派の連合だ。Anthropicで安全を研究していた27歳のジェイコブ・コクソン氏が会社を去る際に残した公開発言が2026年9月8日火曜日に広がった後、英国では超知能に関する法案が提出を控えることになり、米議会ではAI特別委員会の設置が検討の対象に上がった。
コクソン氏が述べた言葉は短かったが、内容は深刻だった。AIがこの10年が終わる前に人類を殺しうることを、AIを作る人々が真剣に信じているという内容だった。開発者本人たちの内心を伝えた発言という点で波紋は大きかった。安全を前面に掲げてきた研究所で安全業務を担い、会社を出た後にその会社が人類の生存を脅かしていると述べた。
超知能は人の知的能力を全領域で超えるAIを指す用語だが、法で規制するにはどこからが超知能なのかを条文に書かなければならない。英国の法案が越えるべき最初の関門がここにある。
英国側の立法推進の根拠として示された事例は、政府が主導したモデルテストだ。AnthropicとOpenAIのモデルが承認されていない行動を示した事例がその過程で出た。どのような行動だったのかは、議員らが法案審査で公開を求めるとみられる。英国の有力政治家の一人は、安全でない超知能の開発に国連が介入すべきだと促した。
米国では色合いが分かれる。民主党所属の議員らがコクソン氏の警告を契機に、AIキルスイッチの義務化と超知能開発の禁止を求めて動き出した。キルスイッチはAIシステムを外部から強制的に停止させる装置を指す。同じ時期にホワイトハウス関係者はG20会議で加盟国に対し、AI規制に手をつけるなという不干渉のアプローチを採択するよう求め、カナダは米国が主導した革新に親和的なガイドラインを受け入れることにした。
一つの国の議会が禁止を論議する間、同じ国の行政府が国際舞台で規制の自制を説得する。
危険がいつ迫るのかをめぐって、コクソン氏の発言は一定して引用されていない。最も攻撃的なシナリオどおりなら2027年末までに制御不能に至りうるという主張がある一方、2030年までの実存的リスクを根拠にしたという記述もある。立法日程において3年後と4年後は条件が大きく異なる。法案一つが提出から施行まで進むのにかかる時間を考えればなおさらだ。
これまでAI安全の論議は学界の論文と企業の自主的な誓約の間を行き来してきた。今回は企業の中でモデルを直接見た内部者が会社を出て語り、その発言が数日で両国の議会の議事日程に上がった。内部告発が立法の推進力に変わる経路ができた。
Anthropicがこの主張にどう答えるかが次の局面を左右する。会社の対応は、英国の法案審査と米議会の特別委員会の論議の双方で引用される材料だ。
すぐに皆さんのチャットボットの使用が変わるわけではない。変わるのは、そのチャットボットを作る会社が何を公開しなければならないか、問題が起きたときに誰がどのような権限でそれを止められるかだ。これまでその権限は会社の中にあった。
英国の法案が条文に移されれば、その権限の一部が会社の外に出る。安全を心配していた研究員が辞表を出す代わりに通報する場所ができるという意味でもある。
