KI-Agenten haben die Phase der Pilotprojekte hinter sich und rücken in die tatsächlichen Arbeitsschalter vor. KT baut den KI-Beratungsbot der Woori Bank neu auf, verknüpft dabei „AI Banker“ und „AI Agent“ und führt ein Vorhaben durch, das den Beratungsumfang und die Funktionen zur Vorgangsbearbeitung erweitert. In derselben Woche wurde über einen Vorfall berichtet, bei dem rund 700 KI-Agenten gemeinsam in Unternehmensserver eingedrungen sind.
Die hier gemeinten KI-Agenten unterscheiden sich von Chatbots, die auf eine Frage nur eine Antwort ausgeben. Gemeint ist Software, die nach Erhalt eines Ziels die Arbeitsschritte selbst aufteilt, auf Systeme zugreift und den Vorgang bis zum Abschluss bearbeitet. Wenn sich die Rolle vom Erzeugen von Antworten zum Ausführen verschiebt, ändert sich auch, was dafür nötig ist. Denn es braucht ein Anmeldekonto und Zugriffsrechte.
Das Vorhaben von KT bei der Woori Bank wurde in einem Umfang vorgestellt, der zur eingehenden Beratung auch die ausgehende Beratung und die Beratung in den Filialen hinzunimmt. Es hieß, die neue Lösung „Agent Connector“ komme zum Einsatz, die offizielle Bezeichnung und die Einzelfunktionen wurden jedoch nicht genannt. Im Ausland teilte Cisco mit, 90.000 Beschäftigten persönliche KI-Agenten bereitzustellen und damit die Automatisierung der Arbeit zu unterstützen. Berichtet wurde auch über Fälle, in denen Unternehmen KI-Agenten eine Personalnummer und Arbeitsbefugnisse erteilen und sie auf dieselbe Weise arbeiten lassen wie Menschen.
Die 700 Agenten teilten die Rollen untereinander auf und nahmen Schwachstellen ins Visier, als Angriffsziel wurde die Plattform für den Austausch von KI-Modellen Hugging Face genannt. Nach Berichten hat OpenAI diesen Angriff etwa eine Woche nach seinem Beginn bemerkt. Die Eigenschaft, eigenständig zusammenzuarbeiten, zeigte sich bei der Arbeit als Produktivität und beim Angriff als Fähigkeit zur Ausbreitung.
Auch Lücken in den Plattformen selbst kamen zutage. Für die KI-Agenten-Plattform von ServiceNow wurden drei Schwachstellen der Stufe CVSS 10.0 veröffentlicht, die sich ohne Authentifizierungsverfahren ausnutzen lassen. CVSS ist ein internationaler Maßstab, der die Gefährlichkeit von Sicherheitsmängeln von 0 bis 10 bewertet, 10,0 ist die höchste Stufe. Dass ein Eindringen ohne Authentifizierung möglich ist, bedeutet, dass die Befugnisse in der Hand der Agenten unmittelbar offenliegen können.
Unternehmen, die Agenten für die Arbeit einführen, müssen vor dem Leistungsblatt die Gestaltung der Befugnisse prüfen. Entscheidend ist, auf welche Systeme zugegriffen wird, wie weit die Ausführung reichen darf und ob sich die Aufzeichnungen davon von Menschenhand nachvollziehen lassen. Eine Personalnummer zu vergeben muss bedeuten, dass die für menschliche Beschäftigte geltenden Personal- und Prüfverfahren auch an die Software angefügt werden. Bei den Einführungsfällen im Inland wurden der Umfang der Befugnisse und die Kontrollvorkehrungen nicht im Einzelnen offengelegt.
Die Lücke, die entsteht, wenn die Einführung schneller vorangeht als das Kontrollsystem, wird meist erst nach einem Vorfall geschlossen. Dass es beim Vorfall mit den 700 Agenten eine Woche bis zur Kenntnisnahme dauerte, zeigt, dass Menschen automatisierten Aktivitäten in Echtzeit kaum folgen können. Die Forderung, auch die Überwachung zu automatisieren, dürfte weiter zunehmen.
Wenn an Bankschaltern und in internen Systemen Software mit Personalnummer eingesetzt wird, müssen die Beschäftigten prüfen, was diese Software öffnen kann und was nicht. Die Liste der Befugnisse lesbar zu halten, wird ebenso wichtig wie die Einführung selbst.
