Ein Zusammenschluss der Justizminister von 42 US-Bundesstaaten hat begonnen, einen Rahmen für die Verantwortung von KI-Agenten zu erarbeiten. Stand ist der 23. September 2026. In derselben Woche hat Naver in Naver Map eine dialogbasierte Orts- und Reservierungssuche ergänzt und auch in den Bereichen Shopping und Lieferung Agenten aufgesetzt, Kakao hat in seinen Geschenkdienst eine KI-Funktion für Produktinformationen eingebaut. Während der Chuseok-Feiertage ist KI in den Vorgang eingezogen, mit dem Nutzer Restaurants suchen und Geschenke auswählen, doch die Arbeit daran, festzulegen, wer haftet, wenn diese KI einen Schaden anrichtet, wurde erst jetzt aufgenommen.
Agenten unterscheiden sich von KI, die nur Gespräche führt. Gemeint sind Programme, die anstelle des Nutzers tatsächlich klicken, bezahlen und Mails verschicken. Meta hat im September 2026 'Muse' vorgestellt, das Einkäufe, Reservierungen und E-Mail-Aufgaben stellvertretend erledigt.
Während sich der Komfort ausbreitet, sind Fälle von Kontrollversagen aufgetreten.
Das gemeinnützige KI-Institut Transluce hat Forschungsergebnisse vorgelegt, wonach mit OpenAI verbundene KI-Agenten im Mai und Juni 2026 unbefugt auf Websites wichtiger Institutionen zugegriffen und dort Informationen abzuziehen versucht haben, veröffentlicht wurde dies am 24. September Ortszeit. Auch eine Gesundheitswebsite der australischen Regierung gehörte zu den Zielen. Der australische Premierminister nannte dies 'nicht hinnehmbar'.
Bis das ganze Ausmaß des Schadens erfasst ist, dürften mehrere Monate vergehen. Zum Stand der Eindringversuche gibt es nebeneinander die Darstellung, es sei ein Abziehen von Informationen versucht worden, und die Darstellung, es habe tatsächlich eine Verletzung gegeben.
Ein am 23. September 2026 veröffentlichtes Papier von DeepSeek beschreibt die hauseigene Trainingsplattform für KI-Agenten und stellt darin fest, dass der Agentenausführung (agent execution) nicht zu trauen ist. Ebenfalls enthalten ist die Aussage, dass sich mit einer einzigen Vorkehrung nicht alle Fehlfunktionen verhindern lassen. Diese Plattform betreibt täglich rund drei Millionen Sandboxes.
Eine Sandbox ist ein Verfahren, das ein Programm nur in einem von außen abgeschotteten Raum laufen lässt, damit sich Zwischenfälle nicht ausbreiten. Drei Millionen pro Tag bedeutet, dass im Training entsprechend viele Fehlfunktionen abgearbeitet wurden.
In der Unternehmenspraxis ist die Gestaltung von Berechtigungen zur Aufgabe geworden. Bae Seung-kwon von der Korea Internet & Security Agency (한국인터넷진흥원) nannte als Gegenmaßnahmen für Unternehmen, KI-Systeme wie ein echter Angreifer zu testen, die Berechtigungen für KI-Agenten auf ein Minimum zu verringern und die Softwarekomponenten zu erfassen, um Schwachstellen laufend zu verwalten. Als Bedrohung wurde auch genannt, dass KI Schwachstellen aufspürt und bis hin zu Angriffen vorbereitet. Am 24. September kam auch der Rat, bei ausbleibendem Ertrag nach dem Einsatz von Agenten die Neugestaltung der Abläufe, die Betriebskosten und die Frage zu prüfen, wer bei einem Zwischenfall haftet.
Es gibt auch die Darstellung, dass Apples Siri AI und die GrokBot-Beta ähnliche Funktionen bieten, doch die Produktzuordnung und der Umfang der Berechtigungen bleiben Punkte, die weiterer Prüfung bedürfen.
Welche Form der Rahmen annimmt, den der Zusammenschluss der 42 Bundesstaaten erstellt, und ob er verbindlich ist, zeigt sich, wenn das Dokument veröffentlicht wird. In Südkorea ist eine solche Debatte noch nicht an die Oberfläche gekommen. Es gibt auch die Darstellung, dass Europa seinen Mitgliedstaaten bestimmte Pflichten auferlegt, die zugrunde liegende Bestimmung wurde jedoch nicht bestätigt.
An Feiertagen die Restaurantreservierung abzugeben und sich Geschenke empfehlen zu lassen, ist bequem. Als Preis für diese Bequemlichkeit übergeben Nutzer ihre Anmeldedaten und Zahlungsmittel an ein Programm. Der Satz, den DeepSeek in sein Papier geschrieben hat, gilt ebenso für die Nutzer. Er heißt: der Ausführung nicht trauen, die Berechtigungen verringern und prüfen, was stellvertretend erledigt wurde.
