Innerhalb von drei Tagen gab es in der KI-Branche der USA dreimal Warnungen vor den Risiken von KI. Am 11. September wurde bekannt, dass im US-Kongress ein Gesetzentwurf eingebracht wurde, der die menschliche Aufsicht über KI gewährleisten und außer Kontrolle geratene Systeme verhindern soll. Um den 12. September herum forderte der Vorstandschef (CEO) von Anthropic, Dario Amodei, die Branche öffentlich auf, den Entwicklungswettlauf zu verlangsamen.
In derselben Woche verließ der KI-Forscher Jacob Coxon Anthropic und veröffentlichte auf X einen Beitrag, in dem er vor den Risiken von KI warnte. Die Debatte darüber, wer die Regeln für KI festlegen soll, ist erneut aufgeflammt.
Dass der Chef eines Unternehmens mitten im Wettlauf von einer Bremse spricht, ist selten. Amodei veröffentlichte auf seiner persönlichen Website darioamodei.com einen Text mit dem Titel 'We Must Pace the Frontier' (Wir müssen das Tempo an der vordersten Front steuern). Frontier bezeichnet hier die vorderste Front, an der die leistungsstärksten KI-Spitzenmodelle gegeneinander antreten. In dem Text gab er an, seit zwölf Jahren im KI-Bereich tätig zu sein.
Einige Führungskräfte von Technologieunternehmen widersprachen und erklärten, die USA dürften die Führung im KI-Wettlauf nicht abgeben.
Die Stimmen aus dem Inneren der Unternehmen waren noch schärfer. Coxon, der sowohl bei OpenAI als auch bei Anthropic gearbeitet hat, warnte beim Abschied von seinem letzten Arbeitgeber Anthropic, Anthropic und seine Konkurrenten würden mit dem Leben von Menschen spielen. Auch Whistleblower erklärten, die von der Branche selbst aufgestellten Regeln reichten nicht aus. Ihre Kritik richtete sich gegen den Wettlauf der gesamten Branche.
Auch Washington reagierte schneller. Als ehemalige und aktive KI-Forscher in den USA warnten, KI könne schon bald zum Aussterben der Menschheit führen, richtete sich die Aufmerksamkeit der Abgeordneten auf das Thema. Die Abgeordnete des Repräsentantenhauses Anna Paulina Luna forderte einen KI-'Kill Switch'.
Ein Kill Switch ist eine eingebaute Abschaltvorrichtung, mit der Menschen ein System, das auffälliges Verhalten zeigt, sofort abschalten können. Auch der Gesetzentwurf, dessen Einbringung am 11. September bekannt wurde, stellt die menschliche Aufsicht in den Vordergrund.
Die in der Politik diskutierten Rezepte gehen unterschiedlich weit. Sogar ein Vorschlag, auf Anreize für Rechenzentren einen Bundessteuersatz von 100 % zu erheben, wurde ins Gespräch gebracht. Auch die Forderung, die Entwicklung fortgeschrittener KI vollständig zu stoppen, wurde laut.
Ebenso ist der Vorschlag im Gespräch, neue Sperrkriterien zu schaffen, mit denen KI-Agenten gestoppt werden können. KI-Agenten sind Programme, die mehrstufige Aufgaben selbstständig erledigen, ohne dass Menschen jeden einzelnen Schritt anweisen müssen.
Wenn Anthropic allein sein Tempo drosselt und die Konkurrenz nicht mitzieht, trägt nur die Seite den Schaden, die gebremst hat. Auch der Widerstand der Führungskräfte, man dürfe die Führung nicht abgeben, bezieht seine Kraft aus dieser Sorge. Auch der Weg über gesetzlichen Zwang hat Lücken. In einer Umgebung, in der mehrere KI-Agenten gleichzeitig in verschiedenen Rechenzentren laufen, muss zunächst geklärt werden, an welcher Stelle der Kill Switch angebracht wird und wer wann befugt ist, ihn umzulegen.
Auch die Gestaltung der KI-Regulierung in Südkorea wird dieser Debatte kaum ausweichen können. Bestimmungen, die auf freiwillige Zusagen der Unternehmen setzen, können in dem Moment an Wirkung verlieren, in dem sich der Wettbewerb verschärft. In den USA haben der CEO des Unternehmens, das den Wettlauf anführt, und ein Forscher, der dieses Unternehmen verlassen hat, innerhalb einer Woche diese Grenze offengelegt.
Als Aufgabe steht nun die Entscheidung an, ob die menschliche Aufsicht als einzeilige Erklärung bestehen bleibt oder ob auch die Befugnis und das Verfahren zum Stoppen in den Gesetzestext aufgenommen werden. Der Einwand, Regulierung schwäche die Wettbewerbsfähigkeit, wird zwangsläufig auch in Südkorea erhoben werden.
Wenn KI-Agenten Termine ändern und sogar Zahlungen stellvertretend abwickeln, liegt der Grund, warum Nutzer ihnen vertrauen können, eher in einem zuverlässig funktionierenden Kill Switch als im guten Willen des Unternehmens. Die in Washington begonnene Debatte darüber, wem die Befugnis zum Auslösen des Kill Switch übertragen werden soll, hat Südkorea dieselbe Aufgabe hinterlassen.
