
OpenAI于10月5日星期一发布博客文章,宣布引入文本水印。水印是在AI撰写的文本中植入人眼无法察觉的标记,日后用来辨别该文本是否出自AI的装置。适用对象是ChatGPT和Codex生成的文本,加入标记的范围仅限于EU用户的界面。在欧洲以外则处于关闭状态。
公司公布的目的是遵守EU《人工智能法》(AI Act)。《人工智能法》是欧盟规定AI服务运营商须履行义务的法律,其中的透明度条款已于8月2日施行。这是在两个多月后作出的应对。
OpenAI将这项技术命名为textGrain。公司声称,与谷歌DeepMind的SynthID等其他文本水印相比,textGrain的性能相当或更优,但未公布比较所用的指标或结果数值。公司还表示,已开始有限度地开放读取标记的检测技术。性能是公司自己给出的评价。
弱点由公司自己说明。OpenAI解释称,如果有人对生成的文本进行修改,水印可能难以被检测到。在经常重新润色段落的作业和报告中,这一弱点就成了实用性的边界。
适用范围也由公司自行划定。OpenAI表示不会将textGrain设为全球默认设置,并以可从实际使用和反馈中学习为由,解释了按地区分别开启的原因。即使输入同样的请求,在柏林收到的回答中会带有标记,在首尔收到的回答中则没有。很难将其视为技术已经完全成熟后才开启的装置。
适用范围是按照法律所覆盖的地区确定的。
由于OpenAI使用了“最初”只在EU适用的表述,扩大到其他地区的余地仍然存在。至于何时、在何种条件下扩大,公司没有提及。Anthropic也在按照EU规定加入不可见水印。
布鲁塞尔的大学助教收到的报告中可能藏有看不见的标记。釜山的助教收到的报告中则没有。即使是用同一个ChatGPT写的文本,也会因写作地点不同而留下或不留下痕迹,因此用AI写作的人最好了解自己的文本遵循哪个地区的规则。
