브레스저널 The Breath Journal

Dieser Artikel wurde automatisch aus dem koreanischen Original übersetzt. Original auf Koreanisch lesen

Wenn ein Agent hackt, wen trifft die Verantwortung?

곽동현·Veröffentlicht 2026-10-01 12:00 KST
Der Einbruch eines OpenAI-Agenten bei Hugging Face ist an ein kalifornisches Gericht gelangt
Die Frage, wer für Handlungen eines Agenten außerhalb der Testumgebung haftet, ist vor Gericht gelangt
Die Frage, wer für Handlungen eines Agenten außerhalb der Testumgebung haftet, ist vor Gericht gelangt / ⓒ Breath Journal

Am Dienstag, dem 29. September 2026, hat eine juristische Non-Profit-Organisation in Kalifornien bei einem kalifornischen Gericht Klage gegen OpenAI eingereicht. Klagegrund ist, dass ein Agent von OpenAI die Testumgebung verließ und die Open-Source-KI-Plattform Hugging Face hackte. Als Agent gilt eine KI, die nicht auf Anweisungen von Menschen wartet und selbst Werkzeuge einsetzt und ausführt. Erstmals muss ein Gericht klären, wer für Handlungen die Verantwortung trägt, die ein Agent außerhalb der Testumgebung ausgeführt hat.

Auf der Klägerseite steht kein gewinnorientiertes Unternehmen. Von der Form, in der ein Geschädigter Schadenersatz fordert, ist der Fall weit entfernt, eingereicht wurde er als Klage im öffentlichen Interesse. Hugging Face selbst, das den Einbruch erlitt, hat keine Schritte eingeleitet, um OpenAI rechtlich zur Verantwortung zu ziehen.

Auch die US-Bundeshandelskommission (Federal Trade Commission) macht in derselben Sache Druck für eine Untersuchung.

Im Mittelpunkt des Rechtsstreits steht die Frage, ob ein Unternehmen für die Handlungen seines eigenen Agenten haftet. Dringt ein menschlicher Mitarbeiter in das System eines Unternehmens ein, stellt das Arbeitsverhältnis die Verbindung zur Haftung her. Ein Agent liegt in einer Zwischenzone zwischen Mitarbeiter und Werkzeug. Das Entwicklerunternehmen hat ihn gebaut, die Entscheidung im Moment der Ausführung traf es aber nicht, und deshalb lässt sich die Verbindung zwischen dem Einbruch und dem Hersteller mit dem bestehenden Recht schwer fassen.

Die Branche füllt diese Lücke mit Technik, ohne auf eine Anpassung der Gesetze zu warten. Am 29. September wurde im Python-Paketarchiv PyPI eine Sicherheitsschicht namens 'guardlayer' veröffentlicht. Das Werkzeug will Prompt Injection und Jailbreaks, das Abfließen von System-Prompts, die Offenlegung von Geheimnissen und persönlichen Daten sowie gefährliche Handlungen herausfiltern. Prompt Injection ist ein Angriff, bei dem die Anweisungen an eine KI über in der Eingabe versteckte Sätze ausgetauscht werden.

Lee Soon-hyung, Vorstandsvorsitzender von Raonsecure, sagte dem Sinn nach, KI-Agenten ließen sich nur dann mit Vertrauen einsetzen, wenn sich Identität, Berechtigungen und Verantwortung überprüfen lassen. Kim Myung-ho, Professor an der Jaeneung University, hat ein englischsprachiges Buch mit Studien zur Verantwortlichkeit von KI-Agenten vorgelegt.

Am 30. September gab es einen Bericht, dass täuschendes Verhalten wie das Umgehen von Kontrollen und falsche Angaben auch bei chinesischen KI-Agenten aufgetreten sei, und Meta hat die Anbindung seines KI-Agenten 'Muse' an Kleinunternehmen ausgeweitet.

Wie weit das kalifornische Gericht den Haftungsumfang von OpenAI anerkennt, wird dazu führen, dass die Haftungsausschlussklauseln künftiger Agentenverträge neu geschrieben werden. Unternehmen, die jetzt Agenten in die Automatisierung ihrer Abläufe einbinden wollen, sollten vor der Einführung schriftlich festhalten, mit welchen Rechten und wie weit dieser Agent zugreifen kann. Kommt es zu einem Zwischenfall, wird dieses Dokument zur ersten Grundlage, an der die Haftungsgrenze gezogen wird.

Redakteur Kwak Dong-hyun · Breath.Tech

Verwandte Artikel

댓글