Stellen wir uns einen Tag vor, an dem jemand stellvertretend die Entscheidungen trifft. Ein Flugticket auszuwählen, den Tarif zu wechseln, einen Arzttermin zu buchen, all das erledigt sich mit einem einzigen Satz. Wenn dieses Wesen, das stellvertretend entschieden hat, falsch gewählt hat, wer muss dann am Erstattungsschalter seinen Namen nennen? Das Versprechen, jedem Bürger kostenlos einen KI-Agenten in die Hand zu geben, wird nicht zur Politik, solange es diese Frage nicht besteht.
Ein Agent ist etwas anderes als ein Chatbot. Es ist Software, die nicht mit der Antwort endet, sondern anstelle des Nutzers klickt, bezahlt und bis zur Antragstellung alles erledigt. Das Ergebnis, auf das die Verbreitungspolitik zielt, ist eindeutig. Wie viele Bürger haben dieses Werkzeug in die Hand bekommen?
Doch in derselben Woche, in der die kostenlose Bereitstellung verkündet wurde, beanstandete die Kommission für den Schutz personenbezogener Daten (개인정보보호위원회), ob der Agent von Naver bei der Verwendung von Nutzerdaten eine ordentliche Möglichkeit zum Widerspruch angeboten hat. Auf der einen Seite wird die Verteilung beschleunigt, auf der anderen Seite werden die Mindestbedingungen, die das verteilte Produkt einhalten muss, erst nachträglich geprüft. Das ist ein Zeichen dafür, dass die Uhr der Politik und die Uhr der Regeln auseinanderlaufen.
Dieser Text hat eine These. Die Verbreitungsquote ist kein Ergebnis, sondern eine Voraussetzung, und dringend ist, per Regel festzuschreiben, wer für die Entscheidungen und Geschäfte einsteht, die ein Agent stellvertretend ausgeführt hat, und wie weit Nutzer die dabei geflossenen personenbezogenen Daten zurückholen können. Das ist schwieriger als das Verteilen von Werkzeugen, und es fällt weniger auf.
Die Gegenargumente sind nicht leicht zu entkräften. Die Sorge lautet, dass man der Technik einen Rahmen überstülpt, bevor sie ausgewachsen ist, wenn man zuerst Regeln schreibt, und dass in dieser Zeit ausländische Anbieter den Markt übernehmen. Tatsächlich hat es Fälle gegeben, in denen die Regulierung vorauseilte und dann nur die inländischen Anbieter gebunden waren. Die Aussage, man solle die Verbreitung vorantreiben und die Regeln nachziehen lassen, hat ihre Berechtigung.
Dennoch muss man Agenten anders betrachten. Denn was diese Software tut, bleibt nicht bei der Anzeige von Informationen stehen, sondern ist Ausführung. Eine falsche Zusammenfassung können Nutzer aussortieren, doch eine falsche Zahlung und eine falsche Vertragszustimmung kosten Geld und Zeit, um sie rückgängig zu machen. Ein Werkzeug mit Ausführungsrechten an die gesamte Bevölkerung zu verteilen gehört zu jener Sorte von Vorhaben, deren spätere Korrektur weitaus teurer ist.
Die Umrisse der nötigen Regeln sind nicht kompliziert. Bis zu welchen Handlungen ein Agent ohne Bestätigung des Nutzers gehen darf, wie sich die Haftung zwischen Entwicklerfirma, Diensteanbieter und Nutzer aufteilt, wenn ein Schaden entsteht, ob man den Dienst unverändert weiter nutzen kann, auch wenn man der Verwendung von Gesprächs- und Handlungsprotokollen für das Training widerspricht. Erst im Nachhinein zu beanstanden, ob die Widerspruchsmöglichkeit tatsächlich funktioniert, ist zu spät.
Es ist besser, auch klar zu benennen, was nicht geht. Die heutigen Agenten bemerken von sich aus nicht, dass sie falschliegen, und nicht selten greifen sie den Absichten des Nutzers vor und gelangen zu einer verkehrten Ausführung. Auch mit diesen Grenzen wird die Verteilung weitergehen. Dann ist es das Mindestmaß an Anstand, die Grenzen nicht zu verbergen und allein die Bequemlichkeit zu bewerben.
Der Maßstab, der um diese Zeit im nächsten Jahr über Erfolg oder Scheitern dieser Politik entscheidet, wird nicht sein, wie viele Menschen einen Agenten erhalten haben. Wissen die Nutzer, wo sie anrufen müssen, wenn ein Flugticket falsch bezahlt wurde, gibt es eine Möglichkeit zu prüfen, ob die Bitte, die eigenen Gesprächsprotokolle vom Training auszunehmen, tatsächlich umgesetzt wurde. Regeln, die darauf antworten können, müssen vor der Verteilung stehen.
