OpenAI hat am Montag, dem 5. Oktober, in einem Blogbeitrag die Einführung von Textwasserzeichen bekannt gegeben. Ein Wasserzeichen ist eine Vorrichtung, die in von KI geschriebene Texte eine für das menschliche Auge unsichtbare Markierung einbettet, damit sich später feststellen lässt, ob ein Text von einer KI stammt. Betroffen sind Texte, die ChatGPT und Codex erzeugen, und die Markierung wird nur auf den Bildschirmen von EU-Nutzern angebracht. Außerhalb Europas ist sie abgeschaltet.
Als Ziel nannte das Unternehmen die Einhaltung des EU AI Act (KI-Verordnung). Der AI Act ist ein Gesetz, in dem die Europäische Union die Pflichten von Anbietern von KI-Diensten festgelegt hat, und die darin enthaltenen Transparenzvorschriften traten am 2. August in Kraft. Die Reaktion kommt nach gut zwei Monaten.
OpenAI hat der Technik den Namen textGrain gegeben. Das Unternehmen behauptete, textGrain sei im Vergleich mit anderen Textwasserzeichen wie SynthID von Google DeepMind gleichwertig oder überlegen, legte die für den Vergleich verwendeten Kennzahlen und Ergebnisse jedoch nicht vor. Nach eigenen Angaben hat es auch begonnen, eine Erkennungstechnik zum Auslesen der Markierung eingeschränkt freizugeben. Die Leistungsangaben beruhen auf einer Bewertung durch das Unternehmen selbst.
Die Schwachstelle hat das Unternehmen selbst benannt. OpenAI erklärte, das Wasserzeichen werde möglicherweise schlecht erkannt, wenn Menschen den erzeugten Text von Hand überarbeiten. Bei Hausarbeiten und Berichten, in denen Absätze häufig nachbearbeitet werden, markiert diese Schwachstelle zugleich die Grenze des Nutzens.
Auch den Anwendungsbereich hat das Unternehmen selbst abgesteckt. OpenAI erklärte, textGrain nicht als weltweite Standardeinstellung zu verwenden, und nannte als Grund für die regionale Aktivierung die Möglichkeit, aus der tatsächlichen Nutzung und aus Rückmeldungen zu lernen. Bei derselben Anfrage enthält die in Berlin erhaltene Antwort die Markierung, die in Seoul erhaltene Antwort nicht. Dass die Funktion eingeschaltet wurde, weil die Technik ausgereift ist, lässt sich kaum sagen.
Der Anwendungsbereich richtet sich danach, wo das Gesetz gilt.
Da OpenAI formulierte, die Anwendung erfolge 'zunächst' nur in der EU, bleibt Raum für eine Ausweitung auf andere Regionen. Wann und unter welchen Bedingungen eine Ausweitung erfolgen soll, dazu äußerte sich das Unternehmen nicht. Auch Anthropic fügt in Übereinstimmung mit den EU-Vorschriften unsichtbare Wasserzeichen ein.
In einer Hausarbeit, die ein Tutor an einer Universität in Brüssel erhält, kann eine unsichtbare Markierung verborgen sein. In der Hausarbeit, die ein Tutor in Busan erhält, fehlt sie. Selbst bei Texten, die mit demselben ChatGPT geschrieben wurden, bleibt je nach Ort des Schreibens eine Spur zurück oder verschwindet, daher sollte, wer mit KI schreibt, besser wissen, nach den Regeln welcher Region sich der eigene Text richtet.
