In den drei Tagen vom 16. bis 18. September sind im In- und Ausland mindestens sechs Berichte über Sicherheit und Governance von KI-Agenten erschienen. Die Themen der sechs Berichte unterscheiden sich. Es geht um die vom Nationalen Nachrichtendienst (National Intelligence Service, NIS) vorangetriebene Sicherheitsbewertung, um die Ausweitung der Zugriffskontrolle durch PNP Secure und um die Forderung nach einer Neugestaltung der Sicherheit, die IBM und OSC Korea auf einer Veranstaltung vorbrachten. Gemeinsam ist ihnen, dass sie auf die Frage reagieren, wer Software, die ohne einzelne Anweisungen eines Menschen selbst handelt, auf welche Weise stoppen soll.
Ein KI-Agent ist ein Programm, das nach einem einzigen Befehl selbstständig mehrere Arbeitsschritte hintereinander ausführt. Er sucht, öffnet Dateien, greift auf Systeme zu und gibt die Ergebnisse wiederum als Eingabe in den nächsten Arbeitsschritt ein. Von herkömmlicher Automatisierung unterscheidet er sich dadurch, dass kein Mensch zwischendurch jeweils eine Bestätigungstaste drückt.
Dieser Unterschied wird für Sicherheitsverantwortliche zum Problem.
PNP Secure weitet die Zugriffskontrolle, die bislang auf Menschen und Systeme ausgerichtet war, auf KI-Agenten aus. Zugriffskontrolle ist eine Technik, die im Voraus festlegt, wer auf welche Daten zugreifen darf, und alle anderen Versuche blockiert. Bisher standen auf dieser Liste Mitarbeiterkonten oder Server. Dass Agenten als neuer Eintrag in diese Liste aufgenommen werden, bedeutet, dass man begonnen hat, Software als eigenständigen Akteur zu behandeln.
Auch Cisco, Intuit, Workday und ServiceNow bauen mehrschichtige Verwaltungssysteme auf, die Agenten überwachen, kontrollieren und isolieren. Die Überwachung ist die Schicht, die aufzeichnet, was getan wurde, die Kontrolle die Schicht, die Berechtigungen einschränkt, und die Isolierung die Schicht, die einen problematischen Agenten abtrennt. Bis zu welcher Schicht die einzelnen Unternehmen tatsächlich im Betrieb sind und seit wann sie diese anwenden, geht aus den veröffentlichten Angaben nicht hervor. Vorgestellt wurde auch eine Technik, die die Tätigkeiten eines Agenten im Web nachverfolgt und Datenabflüsse sowie unbefugte Änderungen aufdeckt.
Auch auf staatlicher Seite gab es im selben Zeitraum Bewegung. Der Nationale Nachrichtendienst treibt eine Sicherheitsbewertung von KI-Agenten voran. Welche Einrichtungen einbezogen werden, welche Punkte geprüft werden und was bei Nichtbestehen geschieht, wird sich zeigen, wenn das Bewertungssystem Gestalt annimmt. Auch in Washington in den USA wurde ein vierter Ansatz zur Regulierung der KI-Governance vorgelegt.
Etwa zur selben Zeit forderten führende KI-Forschungslabore öffentlich, das Tempo der Entwicklung zu verlangsamen und die Sicherheitskontrollen zu verschärfen. Es ist eine Bremsforderung aus den Reihen der Entwickler. Es wurde auch vermutet, dass es Anfang Juli einen groß angelegten Angriff auf Hugging Face gegeben habe, wobei 1.200 Agenten über fünf Tage gemeinsam agiert haben sollen, weshalb dies noch weiterer Bestätigung bedarf.
Die Annahme, dass unternehmensinterne freiwillige Richtlinien allein ausreichen, gerät ins Wanken. Beleg dafür ist, dass die Entwicklung, bei der Unternehmen selbst Zäune errichten, und die Entwicklung, bei der der Staat Bewertungsmaßstäbe schafft, parallel verlaufen.
Wer im Unternehmen KI-Agenten einsetzt, sollte jetzt prüfen, mit welchem Konto und bis wohin der jeweilige Agent zugreifen kann und wer ihn bei auffälligem Verhalten nach welchem Verfahren abschalten kann. Sobald die Bewertungspunkte des Nationalen Nachrichtendienstes vorliegen, werden die Maßstäbe klarer. Bis dahin bleiben die Berechtigungslisten der einzelnen Unternehmen die einzige Sicherung.
