Angenommen, ein Programm meldet sich anstelle des Nutzers an, veröffentlicht Beiträge, wählt Waren aus und kommt bis kurz vor die Bezahlung. Wenn dabei etwas schiefgeht, wer trägt die Verantwortung? Der Nutzer, das Unternehmen, das das Programm gebaut hat, oder der Dienst, in den dieses Programm hinein- und hinausgegangen ist? Es sind derzeit nicht viele, die auf diese Frage klar antworten können.
Ein KI-Agent ist ein Programm, das mehrere Schritte selbst durchläuft und erledigt, wenn man ihm nur ein Ziel vorgibt, ohne dass ein Mensch jedes Mal Anweisungen gibt. In den vergangenen Wochen sind nacheinander Experimente mit einem sozialen Dienst, in dem solche Agenten untereinander Beiträge austauschen, und Experimente mit autonomem Einkaufen aufgetaucht, bei dem anstelle des Menschen Produkte ausgewählt und gekauft werden. Im selben Zeitraum kamen auch Warnungen auf, dass solche Programme sensible persönliche Daten preisgeben können. Erwartung und Sorge brachen in einer Woche gleichzeitig hervor, doch nur die Prognosen über die Marktgröße sind laut, die Debatte über Normen zur Aufteilung der Verantwortung ist kaum zu hören.
Die Verantwortlichkeit festzulegen muss früher kommen als die Autonomie auszuweiten. Die Reihenfolge, den Komfort freizulassen und die Sicherheit später zu prüfen, muss umgedreht werden.
Autonomie ist hier über die technische Spezifikation hinaus eine Frage der Befugnisse. Je weiter der Bereich wird, in dem ein Agent nach eigener Beurteilung handelt, desto weiter wird die Grauzone, in der es nach einem Vorfall heißt: „Der Mensch hat es nicht angeordnet, und das Unternehmen hat es nicht festgelegt.“ Die Befugnisse wachsen, doch das Namensschild der Verantwortung, das an diesen Befugnissen hängt, ist leer. Das Wort Autonomie leistet die Arbeit, diese Leerstelle passend zu überdecken.
Der Einwand ist stark genug. Stellt man Normen voran, werde die Technik gedrückt, bevor sie wachse, und erst durch tatsächlichen Gebrauch lasse sich erkennen, worin die Risiken bestehen. Das stimmt.
Dennoch sind Experiment und Auslieferung verschieden. Etwas in einer kontrollierten Umgebung kaputtzumachen und etwas mit angehängten realen Konten, Kontakten und Zahlungsmitteln nach außen zu geben, sind Risiken von völlig anderer Art.
Es geht also nicht darum, eine Regulierung im Ganzen zu fordern. Gemeint ist, zunächst festzulegen, was wann angepasst wird. Immer wenn Befugnisse wachsen, muss zugleich festgehalten werden, wer diese Befugnisse genehmigt hat und wer im Schadensfall dafür einsteht.
Man muss auch nicht darauf warten, dass Gesetze entstehen. Es ist das Mindeste, was ein Team, das eine Funktion ausliefert, für sich selbst festlegen kann.
Fair ist es nur, wenn auch klar aufgeschrieben wird, was derzeit nicht geht. Die Technik, mit der festgehalten wird, über welche Beurteilung ein Agent zu seiner Handlung kam, so dass ein Mensch es nachlesen kann, ist unfertig. Auch eine Methode, den Ausgangspunkt eines Fehlers zurückzuverfolgen, der beim Austausch mehrerer Agenten untereinander entstanden ist, gibt es kaum. Das heißt, dass sich die Ursache selbst nach einem Vorfall schwer bestimmen lässt, und wenn sich die Ursache schwer bestimmen lässt, zerstreut sich auch die Verantwortung.
Was sich sofort ändern kann, ist klein. Wenn man ein Konto mit einem Programm verbindet, das etwas an unserer Stelle erledigen will, einmal zu prüfen, ob es nur liest oder ob es schreibt, versendet und bis zur Bezahlung geht. Die Befugnisse nicht im Ganzen zu übergeben, sondern nur so weit zu öffnen wie nötig. Die Art, wie der Tag eines Menschen leichter wird, liegt darin, zu wissen, was man übergeben hat, und es dann zu übergeben, statt die Hände ganz davon zu lassen.
