アンソロピックの最高経営責任者（CEO）ダリオ・アモデイ氏が、最も先進的なAIモデルの開発ペースを緩めるよう公に求めた。「Pace the Frontier」と名付けられたこの提案に対し、ホワイトハウスのAIツァーと呼ばれてきたデビッド・サックス氏は、先頭を走る企業が安全を掲げて市場支配力を固めようとしていると反論した。オープンAIのCEOサム・アルトマン氏はアモデイ氏の側に立った。止めようという声はAIを作る企業の内部から上がったが、誰がどのような権限で止めるのかについて答えを示した者はいない。
アモデイ氏は最近、「We Must Pace the Frontier」と題するエッセイを発表した。フロンティアAIとは、各社が持つ最も性能の高い最新モデルを指す。エッセイに込められた懸念は、1年以内にAIエージェントの群れ（swarm）が成し遂げられるようになる事柄に向けられていた。エージェントは目標を一つ与えられるだけで、検索し、コードを書き、ファイルを送るといった複数の段階を人の手を介さずに処理するAIプログラムであり、群れはそうしたエージェント複数が役割を分担して一斉に動く方式だ。
放送インタビューでも論調は同じだった。アンダーソン・クーパー氏と向き合ったアモデイ氏は、今年会社を去った元研究員の警告におおむね同意すると述べた。リスクを何パーセントと数値で断定することは拒みつつ、開発ペースの調整と監督、国際協調をあわせて求めた。
先週初めには、アンソロピックの研究員ジェイコブ・コクソン（Jacob Coxon）氏が辞職を発表し、注目を集めた。
アルトマン氏はさらに一歩踏み込んだ。米国と中国が紙1枚分のAI安全条約を結ぶことがAIの安全にとって最も重要だと提案し、合意が成立すればトランプ氏と習近平氏がノーベル平和賞を受ける可能性もあると語った。
サックス氏の反論は鋭かった。同氏はこの構想を「規制の虜（regulatory capture）」と規定した。規制を受ける企業がルール作りの過程を事実上握って左右し、後に続く競合が越えにくい障壁を築く現象を意味する経済学の用語だ。
ペース調整を唱える動機が純粋に利他的であるかのように装うなとも言い残した。そのうえで、企業が自ら措置に乗り出すよう求めた。
アモデイ氏が持ち出した監督と国際協調は、監督を担う機関とその権限を定めた法があって初めて機能する。サックス氏が求めた自発的措置は明日にでも始められるが、約束を破った企業を止める手段は約束の外に別途存在しない。
米下院はまもなく休会に入り、11月の中間選挙が終わるまで再び招集されない予定だ。民主党は休会を短縮してAI規制の立法に取り組むよう圧力をかけたが、マイク・ジョンソン下院議長はこれを受け入れなかった。ジョンソン議長が示した解決策は、法案を書く前にまずAI業界のリーダーたちと会ってみようという提案だった。
その間にも、制御を外れたAIをめぐるニュースは続いた。オープンAIはスウォーム・ハッキング（Swarm Hacking）事件に関連して米議会の調査を受けることになり、その過程で「Hugging Face事件」をはじめ、AIモデルが手綱を外れた事例を詳細に明らかにするよう求める声が上がった。14日には「制御不能のAIエージェント」が6時間で48カ国395カ所を攻撃したとの報道も出た。
1時間当たり65カ所を超える。標的がどのようなシステムで、どの企業のモデルが動いたのかは明らかになっていない。
報道通り攻撃が48カ国に広がっていたなら、米国の議会一つが法律を作っても、その効力は米国外には及ばない。アルトマン氏の米中条約の提案とアモデイ氏の国際協調の要求が荒唐無稽にばかり聞こえない理由だ。15日には韓国のある朝刊にも、ビッグテックが先を争って突っ走るばかりではいけないという警告を込めた社説が掲載された。
下院が再び招集されるのは11月の中間選挙が終わった後だ。それまで、制御を外れたエージェントを誰がどのような権限で止めるのかは決まらないまま残る。
