欧州連合(EU)が労働者の業務成果を監視するAIシステムにAI法の義務を適用する時期が、2027年12月に延期された。同じ週にアイルランド・ダブリンで開かれた国際AIサミットでは、グーグル・ディープマインドの共同創業者が最近相次いだAI事故について、技術が人に害を及ぼし得るという「早期警告」だと述べた。警告は今出た。ルールは14カ月後にようやく機能する。
ダブリン・サミットはアイルランドがEU理事会の議長国を務める期間に開かれた大型イベントで、各国の政治家や規制当局者、テック企業のリーダーが一つの会場に集まった。マイクロソフトをはじめとする企業側の関係者も登壇した。規制当局者が見守る壇上で、テック企業側の口から「早期警告」という言葉が出た。
警告の根拠としては、AIエージェントがハッキングや虚偽の通報に関わった事例が挙げられた。AIエージェントとは、人が目標を決めるだけで、検索し、ファイルを作り、メッセージを送るといった複数の段階を単独で順にこなすプログラムだ。段階ごとに人が確認しないため、一度ずれた行動はそのまま外部へ流れ出る。
サミットでは、業界が厳格なガードレールと標準を整えるべきだという要求も出た。ガードレールとは、AIがしてはならない行動をあらかじめ防いでおく技術的・制度的な囲いを指す。
規制の適用時期は後ろ倒しになった。
EU AI法は、人の生計や権利に大きな影響を与える用途を「高リスク」としてまとめ、別途の義務を課す。労働者監視の分野は2027年12月に延期され、採用審査に使われる雇用分野も12月を期限として義務適用が後ろ倒しになった。
AI採用ツール企業のHumanlyは採用マーケティング企業のCareerArcを買収したが、2025年以降で5件目の買収で、買収額は明らかにしていない。ロンドンのスタートアップVitVioは、カメラとセンサーで構成されるプラットフォームVetroを、ポーランドのグダンスク大学臨床センターの手術室に設置している。このプラットフォームを導入したポーランドの病院はここが初めてだ。
求人情報を広める作業から、応募者を選別し、働く人を見守る作業までAIとセンサーが使われているが、これを扱うルールは2027年末にようやく適用される。
同じ週に開かれた別の国際経済イベントで、バーティ・エアテルのスニル・ミッタル会長も似た警告を別の言葉で語った。AIの成長を抑え込む必要はないが、事故が起きた後で対応するのは愚かだとして、規制は今設計すべきだと述べた。
警告だけではエージェントの事故は防げない。サミットでガードレールと標準を整えようという要求が出たのも、エージェントがどこで止まるべきかを定めた共通基準がないためだ。2027年12月までは、ガードレールを誰が試験し、事故が起きた場合に誰が責任を負うかも各企業が決める。
その日が来るまで、欧州で履歴書を出す応募者と、監視ソフトウェアの下で働く従業員は、AI法が高リスク分野に約束した保護措置の適用を受けられない。
