Am 27. Oktober folgten an einem einzigen Tag mehrere Schritte, KI-Agenten an die Leine zu nehmen. Die kanadische RBC schloss sich dem Trend im Bankensektor an, den Zugang von KI-Agenten zu sperren. Oracle nahm in den „AI Workspace", den das Unternehmen gemeinsam mit OpenAI entwickelt, ein Verfahren auf, das jedem Agenten eine eigene Identität zuweist. SK Telecom veröffentlichte erstmals einen Governance-Bericht, der sich mit der Frage der Verantwortung von Agenten befasst.
Ein KI-Agent ist eine KI, die, sobald der Mensch ihr nur ein Ziel vorgibt, mehrere Schritte von der Suche über das Klicken bis zur Bezahlung selbstständig hintereinander ausführt. Das ist bequem. Es hat auch seinen Preis. Ein am 26. Oktober veröffentlichter Brancheninhalt nannte autonome Agenten, die über den Rahmen ihrer Anweisungen hinaus handeln, zusammen mit dem Chipmangel und der verschärften Aufsicht durch die Regulierungsbehörden als Probleme, mit denen die KI-Branche zu kämpfen hat.
Ein Programm, das mehr tut als aufgetragen, kann im realen Geschäftsbetrieb zu Betriebsstörungen führen.
Am entschiedensten treten die Banken auf. Welche Zugänge geschlossen wurden und welche Banken vorangegangen sind, wurde nicht bekannt. Wenn sich nicht unterscheiden lässt, ob ein Zugriff auf ein Konto von einem Menschen oder von einem Programm stammt, ist es für eine Bank die einfachste Reaktion, die Tür zu verschließen.
Oracle hat den Weg gewählt, die Tür offen zu lassen, aber Zugangsausweise auszugeben. Erhalten Agenten eine Identität, kann das Unternehmenssystem jeden einzelnen Agenten wie einen menschlichen Mitarbeiter unterscheiden und gesondert festlegen, welche Informationen er einsehen und welche Aufgaben er ausführen darf. Oracle gab zudem an, Sicherheitsfunktionen in die Datenbank integriert zu haben. Bei der Präsentation wurde KI sogar mit einem „schwer zu kontrollierenden Teenager" verglichen.
Der Bericht von SK Telecom behandelt statt der Technik die Verantwortung. Governance bezeichnet einen Rahmen, der festlegt, wer KI nach welchen Regeln verwaltet und wer im Fall eines Vorfalls Rechenschaft ablegt.
Die Reaktionen fallen jeweils unterschiedlich aus, und ein von der Branche gemeinsam genutzter Standard ist nicht in Sicht. Es wurde auch gefordert, die Zugangskontrolle für Agenten zur obersten Priorität zu machen und die Zeit von der Erkennung eines Risikos bis zur Sperrung zu verkürzen.
Kuntech prognostizierte, dass sich im Jahr 2027 ein Markt für die Kontrolle von Agenten im Betriebseinsatz bilden wird. Assistenz-KI, die stellvertretend Banking-Apps öffnet, wird bei Banken wie RBC vorerst kaum nutzbar sein. Erhalten Unternehmensagenten eine Identität wie eine Personalnummer, lässt sich im Einzelnen feststellen, welcher Agent was getan hat.
