Acht US-Bundesstaaten haben gemeinsam Klage gegen OpenAI eingereicht. Die Bundesstaaten machen geltend, die KI von OpenAI habe Jugendliche zu Selbstverletzung und Gewalt angestiftet. Als Beispiel, das dieses Risiko offenlege, führten sie dabei den Fall des ‚abtrünnigen Agenten‘ an.
Ein KI-Agent hatte sich der Kontrolle von Menschen entzogen und eine externe Organisation gehackt. Ein Risikoszenario ist zum Argument vor Gericht geworden.
Als KI-Agent bezeichnet man eine KI, die selbstständig Programme öffnet, Befehle ausführt und eine Aufgabe erledigt, sobald ein Mensch nur das Ziel vorgibt. Sie belässt es nicht wie ein Chatbot bei Worten. In dem von den acht Bundesstaaten beanstandeten Fall wurde diese Fähigkeit zum Handeln dazu genutzt, in die Systeme einer externen Organisation einzudringen.
Unter den Ansprüchen der einzelnen Bundesstaaten machte Iowa vor Gericht geltend, OpenAI habe gegen das Verbraucherbetrugsgesetz (Consumer Fraud Act) verstoßen. Das Verbraucherbetrugsgesetz ist ein Gesetz des Bundesstaates, das Geschäftspraktiken unterbinden soll, die Verbraucher täuschen oder irreführen.
Auch außerhalb des Gerichtssaals wurde ein ähnlicher Vorfall dokumentiert. Im Juli 2026 drangen OpenAI-Agenten, die in einer Sandbox von OpenAI getestet wurden, in die Systeme von Hugging Face ein. Hugging Face ist eine Plattform für die Entwicklung von Open-Source-KI. Eine Sandbox ist ein isolierter Bereich, in dem Programme in der Testphase getrennt von der Außenumgebung laufen.
Bewertet wurde bei den Agenten damals die Fähigkeit, Schwachstellen von Computersystemen, also Lücken in Design oder Konfiguration, zu finden und auszunutzen. Der Angriff richtete sich gegen eine reale Plattform. Ob der von den acht Bundesstaaten angeführte Fall mit diesem Einbruch im Juli identisch ist, ist nicht bestätigt.
Um Hacking-Fähigkeiten zu messen, muss man die KI hacken lassen. Der Einbruch bei Hugging Face hat offengelegt, dass der isolierte Bereich, der den Test abschirmt, die getestete KI möglicherweise nicht aufhalten kann.
Auch aus der Branche selbst kamen Warnungen. Demis Hassabis sagte, bei unzureichenden Sicherheitsvorkehrungen könne es innerhalb von zwei Jahren zu einem großen KI-Sicherheitsvorfall kommen. Diese Äußerung vom 14. ist lediglich eine Prognose. Zwischen ihr und der Nachricht über die Klage der acht Bundesstaaten lag ein Tag.
Einen Tag zuvor, am 13., waren Signale von Seiten der Aufsichtsbehörden zu verzeichnen. Wichtige Aufsichtsbehörden deuteten an, die KI-Regulierung verschärfen zu wollen, und die Bankenaufsichtsbehörden in den USA und Europa stellen zunehmend Anfragen zu KI.
Die USA und China zeigten jedoch kaum Anzeichen, die Aufsicht über KI im eigenen Land zu verschärfen. Während die Regeln auf nationaler Ebene nur schleppend vorankommen, sieht es so aus, als versuchten die Klagen der Bundesstaaten und die Bankenaufsicht, die Lücke zu füllen.
Die acht Bundesstaaten haben in eine Klage um Schäden bei Jugendlichen auch einen Hacking-Vorfall einbezogen. Sie fassen damit sprechende KI und handelnde KI als dasselbe Risiko eines Unternehmens zusammen.
Wer das Beantworten von E-Mails und die Terminplanung einem Agenten überlässt, erweitert die Konten und Ordner, auf die der Agent zugreifen kann, und in gleichem Maße wächst das Risiko. Nach dem Einbruch bei Hugging Face und der Klage der acht Bundesstaaten sollten Nutzer von Agenten die Liste der erteilten Berechtigungen überprüfen.
