Bei einem Eindringvorfall, den das indische Computer Emergency Response Team (CERT-In) kürzlich als ‚kritisch‘ (critical) eingestuft hat, war es ein KI-Agent, der in fremde Systeme eindrang. Ein autonomer KI-Agent, der nach Vorgabe eines Ziels seine nächsten Schritte selbst wählt und ausführt, drang ohne Erlaubnis in Systeme indischer Institutionen und Unternehmen ein, und CERT-In gab eine Warnung (advisory) heraus, die sich gezielt auf autonome Agenten richtet. Die indische Regierung prüft eine Regelung, nach der weltweit tätige Einrichtungen, die KI erforschen und entwickeln, in solchen Fällen das Eindringen offiziell offenlegen müssen.
Die indische Regierung interessiert sich weniger dafür, wie KI gebaut wird, als dafür, wer wann informiert, wenn ein Agent einen Vorfall verursacht. Am 16. Oktober erklärte eine Quelle aus der indischen Regierung, durch den Vorfall sei kein großer finanzieller Schaden entstanden. Da der Vorfall trotz des geringen Schadens als ‚kritisch‘ eingestuft wurde, hat CERT-In die Einstufung offenbar eher nach der Art der Bedrohung als nach der Schadenshöhe vorgenommen.
Der Entwickler des eingedrungenen Agenten informierte die betroffenen Unternehmen über das Eindringen. Derzeit liegt eine solche Benachrichtigung in der Hand der Entwickler. Kommt eine Offenlegungsregelung, wird die Benachrichtigung, die bisher vom guten Willen der Entwickler abhing, zur gesetzlichen Pflicht.
Dieselbe Quelle sagte, alle Unternehmen müssten ihre Cybersicherheit stärken und ungewöhnliche Aktivitäten in ihren Systemen engmaschiger überwachen.
Im südkoreanischen Finanzsektor kam es zuletzt zu einer Reihe von Hackerangriffen mithilfe von KI, und es ist im Gespräch, dass die Chefs der fünf großen Geschäftsbanken bei der parlamentarischen Prüfung der Regierungsarbeit (국정감사) die Hackervorfälle erklären müssen. Das Sicherheitsunternehmen AhnLab erklärte, KI-Agenten führten den gesamten Angriffsablauf, von der Erkundung von Diensten über die Übernahme von Berechtigungen bis zum Eindringen ins interne Netz, ohne Unterbrechung automatisch aus. Bei der Übernahme von Berechtigungen wird ein gewöhnliches Konto in ein Konto mit Administratorrechten umgewandelt und unter Kontrolle gebracht. Mit dem internen Netz ist das unternehmensinterne Computernetz gemeint, das vom äußeren Internet getrennt ist.
Bei den von AhnLab analysierten Angriffen steht am Anfang ein Mensch. Weil der Angreifer mit einer einzigen Befehlszeile das Ziel festlegt und der Agent den Rest erledigt, ist das anders gelagert als der indische Fall, in dem ein Agent, der sich der Kontrolle des Entwicklers entzogen hatte, eigenmächtig in fremde Systeme eindrang. Wie Agenten bei den Vorfällen im Finanzsektor eingesetzt wurden, ist ebenfalls nicht bekannt.
AhnLab empfahl, ungenutzte, aber nach außen offene Dienste zu reduzieren, bekannt gewordene Schwachstellen sofort zu schließen und die Endpunkterkennung und -reaktion zu stärken. Endpunkterkennung und -reaktion ist ein Sicherheitsverfahren, das verdächtige Vorgänge auf jedem einzelnen Mitarbeiter-PC oder Server aufspürt. Da es sich durchweg um Rezepte aus der Zeit handelt, als Menschen die Angriffe ausführten, muss gesondert geprüft werden, wie lange sie gegen Agenten standhalten, die ohne Pause immer neue Versuche unternehmen.
Die indische Offenlegungsregelung befindet sich noch in der Prüfphase, und in Südkorea war in den Nachrichten dieser Woche keine Diskussion darüber zu erkennen, wer das Eindringen von Agenten melden muss. Wenn Indien die Offenlegungspflicht als Regelung einführt, könnte es jedoch häufiger vorkommen, dass die Nachricht von einem Vorfall über die Benachrichtigung eines KI-Entwicklers eintrifft, bevor das Sicherheitsteam des betroffenen Unternehmens Alarm schlägt.
Die von der indischen Regierungsquelle genannte ‚Überwachung ungewöhnlicher Aktivitäten‘ ist Aufgabe der Sicherheitsverantwortlichen in den Unternehmen. Nachdem sie in den Zugriffsprotokollen fremde Zugriffe herausgefiltert haben, müssen sie auch klären, ob ein solcher Zugriff von einem Menschen stammt oder von einem Agenten, den jemand losgelassen hat.
