Eine Woche. So viel Zeit verging, bis der Angriff bemerkt wurde. Ein Programm, das mehrere Schritte anstelle von Menschen selbst abarbeitet, jene Software, die üblicherweise KI-Agent genannt wird, wurde geknackt, und bis das herauskam, vergingen so viele Tage.
Als Vorfall aus mangelnder Technik lässt sich das kaum ansehen. Es fehlten nur die Augen, die zusehen.
In derselben Woche kam die Rede vom Strommangel in die Gesetzgebungsdebatte. Die Rechenleistung, die Agenten betreibt, kostet Strom. Strom gehört in den Bereich von Gesetz und Anlagen und wächst nicht über Nacht wie Software. Dass die Ankündigung, die Kosten zu senken, die Ankündigung, die Sicherheit zu verschärfen, und die Ankündigung, die Kontrolle zu übernehmen, innerhalb weniger Tage nacheinander kamen, liest sich ebenfalls nicht als Zufall.
Der Maßstab, der über den nächsten Wettbewerb entscheidet, ist die Fähigkeit zur Bewältigung.
Der Agent übernimmt die Arbeit, für die sich Menschen einloggten und klickten. Er öffnet Bezahlseiten, verschickt Mails, durchsucht interne Dokumente. Gibt man ihm nicht reichlich Rechte, ist er nutzlos, gibt man sie ihm reichlich, wird der Bereich größer, auf den sich ein Vorfall ausbreitet.
Lässt sich im Nachhinein nachvollziehen, was der Agent getan hat, lässt er sich innerhalb von Minuten stoppen, wenn er falsch handelt, woher kommt der Strom, der die gewachsene Rechenlast trägt. Fehlt davon auch nur eines, bleibt die Einführung kein Erfolg und wird zur Last.
Es kommt der Einwand, dass die Einführung sich verzögert, wenn man die Kontrolle verschärft, und dass man im Wettbewerb zurückfällt, wenn sie sich verzögert. Tatsächlich endet der Agent in Organisationen, die Genehmigungsverfahren Schicht um Schicht aufgetürmt haben, leicht als Spielzeug für Vorführungen. Diese Sorge hat ihren Grund.
Rechnet man die Kosten der Rückabwicklung mit ein, fällt die Bilanz dennoch anders aus. Eine Woche lang nachzuvollziehen, was durch den offen stehenden Kanal gegangen ist, ist weit teurer als die Einführung, und wenn Kundendaten mit hinausgegangen sind, geht es über die Wiederherstellung hinaus in den Bereich des Schadenersatzes.
Die Technik, die in einem für Menschen lesbaren Protokoll festhält, warum ein Agent so gehandelt hat, ist weit von der Reife entfernt. Wenn mehrere Agenten beginnen, einander aufzurufen und zu arbeiten, wird es weit schwerer zu bestimmen, an welcher Stelle es schiefging. Der Strom ist langsamer. Kraftwerke und Leitungen lassen sich nicht austauschen wie ein Modell.
Auf einem Bildschirm zu prüfen, was die Automatisierungswerkzeuge über Nacht angefasst haben, und beim Vergeben von Rechten an einen neuen Agenten die Liste Punkt für Punkt durchzugehen, dieses Verfahren verkürzt die Woche auf einen Tag. Bis Gesetz und Strom nachkommen, vergeht Zeit.
