Die Europäische Union (EU) hat den Zeitpunkt, ab dem die Pflichten der KI-Verordnung für KI-Systeme gelten, die die Arbeitsleistung von Beschäftigten überwachen, auf Dezember 2027 verschoben. In derselben Woche bezeichnete ein Mitgründer von Google DeepMind auf einem internationalen KI-Gipfel im irischen Dublin die jüngste Reihe von KI-Vorfällen als „Frühwarnung“, dass die Technologie Menschen schaden kann. Die Warnung kam jetzt. Die Regeln greifen erst in 14 Monaten.
Der Gipfel in Dublin war eine große Veranstaltung während der irischen EU-Ratspräsidentschaft, bei der Politiker, Regulierungsbehörden und Führungskräfte von Technologieunternehmen aus verschiedenen Ländern in einem Saal zusammenkamen. Auch Vertreter von Unternehmen, darunter Microsoft, traten als Redner auf. Auf einem Podium, auf das die Regulierungsbehörden blickten, sprach jemand aus der Technologiebranche von einer „Frühwarnung“.
Als Grundlage für die Warnung wurden Fälle genannt, in denen KI-Agenten in Hackerangriffe und falsche Meldungen verwickelt waren. KI-Agenten sind Programme, die, sobald ein Mensch nur das Ziel vorgibt, mehrere Schritte wie Suchen, Erstellen von Dateien und Versenden von Nachrichten selbstständig nacheinander ausführen. Da kein Mensch jeden Schritt prüft, gelangt eine einmal fehlgeleitete Handlung unverändert nach außen.
Auf dem Gipfel wurde auch gefordert, dass die Branche strenge Leitplanken und Standards schaffen müsse. Leitplanken (Guardrails) bezeichnen technische und institutionelle Schranken, die im Voraus verhindern, dass eine KI Handlungen ausführt, die sie nicht ausführen darf.
Der Geltungsbeginn der Regulierung wurde nach hinten verschoben.
Die KI-Verordnung der EU fasst Anwendungen, die den Lebensunterhalt und die Rechte von Menschen stark beeinflussen, als „Hochrisiko“ zusammen und erlegt ihnen gesonderte Pflichten auf. Die Kategorie der Überwachung von Beschäftigten wurde auf Dezember 2027 verschoben, und auch für die Kategorie Beschäftigung, die bei der Prüfung von Bewerbungen zum Einsatz kommt, wurde die verpflichtende Anwendung mit Frist Dezember nach hinten verlegt.
Das Unternehmen für KI-Recruiting-Tools Humanly hat das Recruiting-Marketing-Unternehmen CareerArc gekauft, es ist die fünfte Übernahme seit 2025, der Kaufpreis wurde nicht genannt. Das Londoner Start-up VitVio installiert seine aus Kameras und Sensoren bestehende Plattform Vetro in den Operationssälen des Universitätsklinischen Zentrums in Danzig (Gdańsk), Polen. Es ist das erste polnische Krankenhaus, das diese Plattform einführt.
Von der Verbreitung von Stellenanzeigen über die Auswahl von Bewerbern bis zur Beobachtung von Beschäftigten werden KI und Sensoren eingesetzt, doch die Regeln dafür gelten erst Ende 2027.
In derselben Woche äußerte Sunil Mittal, Vorsitzender von Bharti Airtel, auf einer anderen internationalen Wirtschaftsveranstaltung eine ähnliche Warnung mit anderen Worten. Es sei nicht nötig, das Wachstum von KI zu bremsen, aber es sei töricht, erst nach einem Vorfall zu reagieren, sagte er und fügte hinzu, die Regulierung müsse jetzt gestaltet werden.
Warnungen allein verhindern keine Vorfälle mit Agenten. Auch die Forderung auf dem Gipfel nach Leitplanken und Standards rührt daher, dass es keinen gemeinsamen Maßstab dafür gibt, wo ein Agent anhalten muss. Bis Dezember 2027 entscheidet jedes Unternehmen selbst, wer die Leitplanken testet und wer bei einem Vorfall die Verantwortung trägt.
Bis dieser Termin kommt, gelten für Bewerber, die in Europa einen Lebenslauf einreichen, und für Beschäftigte, die unter Überwachungssoftware arbeiten, die Schutzmechanismen nicht, die die KI-Verordnung für Hochrisikobereiche versprochen hat.
