オープンAIは10月5日月曜日、ブログ記事でテキストウォーターマークの導入を発表した。ウォーターマークは、AIが書いた文章に人の目に付かない印を埋め込んでおき、後でその文章がAIから出たものかどうかを見分けられるようにする仕組みだ。対象はChatGPTとCodexが生成したテキストで、印が付くのはEU利用者の画面に限られる。欧州の外ではオフになっている。
同社が明らかにした目的はEU AI法の順守だ。AI法は欧州連合がAIサービス事業者に守るべき義務を定めた法律で、そのうち透明性規定は8月2日に施行された。2カ月余りでの対応となる。
オープンAIはこの技術にtextGrainという名前を付けた。同社は、textGrainがグーグル・ディープマインドのSynthIDなど他のテキストウォーターマークと比べて性能が同等かそれ以上だと主張したが、比較に用いた指標や結果の数値は示さなかった。印を読み取る検出技術も限定的に公開し始めたと明らかにした。性能は同社が自ら下した評価だ。
弱点は同社自身が明らかにした。オープンAIは、生成された文章を人が手直しするとウォーターマークがうまく検出されない場合があると説明した。段落を書き直すことがよくある課題やレポートでは、この弱点がそのまま有用性の境界になる。
適用範囲も同社が自ら線を引いた。オープンAIはtextGrainを世界共通の既定値にはしないとし、地域ごとに分けてオンにする理由として、実際の利用とフィードバックから学ぶ余地を挙げた。同じ依頼を入力しても、ベルリンで受け取った回答には印が入り、ソウルで受け取った回答には入らない。技術が十分に成熟したからオンにした仕組みとは見なしにくい。
適用範囲は法律が及ぶ地域に沿って決められた。
オープンAIが「当初は」EUでのみ適用すると表現しただけに、他の地域へ広げる余地は残っている。いつ、どのような条件で広げるかについて、同社は言及しなかった。アンソロピックもEUの規定に合わせて見えないウォーターマークを入れている。
ブリュッセルの大学の助手が受け取ったレポートには、見えない印が隠れている可能性がある。釜山の助手が受け取ったレポートにはない。同じChatGPTで書いた文章でも、どこで書いたかによって痕跡が残ることもあれば消えることもあるので、AIで文章を書く人なら、自分の文章がどの地域のルールに従うのかを知っておく方がよい。
