9月15日と16日の2日間に、AIの危険を警告する声が相次いだ。「AIのゴッドファーザー」と呼ばれるヨシュア・ベンジオ(Yoshua Bengio)氏は、人類がAIを制御する力を失う恐れがあると警告し、アンソロピック(Anthropic)の最高経営責任者(CEO)ダリオ・アモデイ(Dario Amodei)氏は、業界が共に安全対策に乗り出すべきだと求めた。反論もある。エヌビディア(NVIDIA)のCEOジェンスン・フアン(Jensen Huang)氏は、新たな安全法規がなくてもAIを速やかに開発できるとして、新規規制に反対する立場を示した。
テック業界のCEOらが規制を求める警告を相次いで出すなか、AI規制をめぐる議論は次第に大きくなっている。争点も移った。ベンジオ氏とアモデイ氏、フアン氏の立場は、誰がどのような仕組みで開発を制御するかをめぐって分かれる。
アモデイ氏の処方はさらに一歩踏み込む。同氏は「We Must Pace the Frontier」と題したエッセーで、安全装置や監督体制、アライメント技術が追いつくまで、業界はフロンティアモデルの開発ペースを落とすべきだと主張した。フロンティアモデルとは、各社が発表する最新のAIモデルのうち最も性能が高いものを指す。
アライメントとは、AIが人間の意図した目標や価値に沿って動くよう調整する作業だ。エッセーは先週末に掲載された。
アモデイ氏は、企業が共に安全への取り組みを進めようという要請と、最先端モデルの開発の手綱を引き締めようという要請を併せて示した。
ベンジオ氏の警告は、より根本的なところに向けられている。特定の製品が誤作動するという水準を超え、人間がAIを止めて修正する力そのものが失われかねないという警告だ。安全装置を整えるべきだとする側が開発の手綱に繰り返し言及する背景には、こうした制御喪失への懸念がある。
ジェンスン・フアン氏は正反対の立場から論を展開する。新たな規制を設けなくても、AI開発は速やかに続けられるというものだ。フアン氏は、製品を出しても差し支えないほど安全かどうかは企業が自ら判断すればよいとも述べた。フアン氏の論理に従えば、安全を確認する主体と発売を決める主体が同じ会社になる。
ワシントンの空気はフアン氏の主張に近い。
トランプ大統領は、AI開発を遅らせたり規制を強化したりすべきだとする要求に消極的な姿勢を示してきた。政府が歯止めをかけない限り、AIを制御する仕組みは業界の自主的な約束や企業内部の基準に頼らざるを得ない。
どちらの解決策にも抜け穴がある。アモデイ氏流の減速は業界全体が歩調を合わせてこそ効果が出るが、1社だけでも先行すれば約束は力を失う。フアン氏流の自律は発売基準を社内で決めるため、その基準が十分だったかを外部から確かめる手段が限られる。ベンジオ氏が指摘した制御喪失は、どちらの方法でもおのずと解消されるものではない。
論争は宣言の段階を越え、制度設計に入りつつある。開発を遅らせる時期を誰が決めるのか、監督機関にどのような権限を与えるのか、企業が自ら行った安全点検の結果を外部で検証する手段があるのかが、次の論点だ。アンソロピックはモデルを開発し、エヌビディアはAI産業に半導体を供給するなど、両社は立場からして異なり、合意は容易ではない。
AIが任されていない作業まで行おうとした際にそれを止める権限を社内だけに置くのか、外部の監督機関にも与えるのかが、アモデイ氏とフアン氏の論争の分かれ目となっている。
