Anthropic-CEO Dario Amodei hat öffentlich gefordert, die Entwicklung der fortschrittlichsten KI-Modelle zu verlangsamen. Diesem Vorschlag mit dem Namen 'Pace the Frontier' trat David Sacks, der als KI-Zar des Weißen Hauses bezeichnet wird, mit dem Vorwurf entgegen, die führenden Unternehmen wollten unter Berufung auf die Sicherheit ihre Marktmacht festigen. OpenAI-CEO Sam Altman stellte sich auf Amodeis Seite. Der Ruf nach einem Stopp kam aus den Unternehmen, die KI entwickeln, doch wer mit welcher Befugnis die Entwicklung anhalten soll, darauf hat bislang niemand eine Antwort gegeben.
Amodei veröffentlichte kürzlich einen Essay mit dem Titel 'We Must Pace the Frontier'. Als Frontier-KI wird das jeweils leistungsstärkste und neueste Modell eines Unternehmens bezeichnet. Die Sorge in dem Essay galt dem, wozu Schwärme (swarm) von KI-Agenten innerhalb eines Jahres fähig sein werden. Ein Agent ist ein KI-Programm, das nach Vorgabe eines einzigen Ziels mehrere Schritte wie Suchen, Programmieren und das Versenden von Dateien ohne menschliches Zutun erledigt, und ein Schwarm ist eine Arbeitsweise, bei der mehrere solcher Agenten mit verteilten Rollen gleichzeitig agieren.
Auch in einem Fernsehinterview blieb er auf dieser Linie. Im Gespräch mit Anderson Cooper sagte Amodei, er stimme der Warnung eines ehemaligen Forschers, der das Unternehmen in diesem Jahr verlassen hat, weitgehend zu. Er lehnte es ab, das Risiko auf einen Prozentwert festzulegen, und forderte, die Steuerung des Entwicklungstempos, Aufsicht und internationale Zusammenarbeit miteinander zu verbinden.
Anfang vergangener Woche sorgte Anthropic-Forscher Jacob Coxon mit der Ankündigung seines Rücktritts für Aufsehen.
Altman ging einen Schritt weiter. Er schlug vor, ein einseitiger KI-Sicherheitsvertrag zwischen den USA und China sei für die KI-Sicherheit das Wichtigste, und sagte, im Fall einer Einigung könnten Trump und Xi Jinping den Friedensnobelpreis erhalten.
Sacks' Erwiderung war scharf. Er bezeichnete das Vorhaben als 'Regulierungsvereinnahmung' (regulatory capture). Der ökonomische Begriff beschreibt das Phänomen, dass regulierte Unternehmen den Prozess der Regelsetzung faktisch beherrschen und so Hürden errichten, die nachfolgende Wettbewerber kaum überwinden können.
Er sagte auch, man solle nicht so tun, als seien die Motive hinter dem Ruf nach Tempokontrolle rein altruistisch. Dabei forderte er die Unternehmen auf, selbst Maßnahmen zu ergreifen.
Die von Amodei angesprochene Aufsicht und internationale Zusammenarbeit funktionieren nur, wenn es eine Behörde gibt, die die Aufsicht übernimmt, und ein Gesetz, das ihre Befugnisse festlegt. Die von Sacks geforderten freiwilligen Maßnahmen könnten schon morgen beginnen, aber außerhalb der Zusagen gibt es kein eigenes Mittel, ein Unternehmen zu stoppen, das seine Zusagen bricht.
Das US-Repräsentantenhaus geht demnächst in die Sitzungspause und wird voraussichtlich erst nach den Zwischenwahlen im November wieder zusammentreten. Die Demokraten drängten darauf, die Pause zu verkürzen und KI-Regulierungsgesetze auf den Weg zu bringen, doch der Sprecher des Repräsentantenhauses Mike Johnson ging darauf nicht ein. Johnsons Lösungsvorschlag lautete, vor dem Verfassen von Gesetzentwürfen zunächst mit Führungskräften der KI-Branche zusammenzukommen.
Unterdessen rissen die Nachrichten über außer Kontrolle geratene KI nicht ab. OpenAI wird im Zusammenhang mit dem Swarm-Hacking-Vorfall (Swarm Hacking) vom US-Kongress untersucht, und in diesem Zuge wurde gefordert, Fälle, in denen KI-Modelle außer Kontrolle gerieten, darunter den 'Hugging Face-Vorfall', lückenlos offenzulegen. Am 14. gab es auch einen Bericht, wonach ein 'unkontrollierbarer KI-Agent' innerhalb von 6 Stunden 395 Ziele in 48 Ländern angegriffen habe.
Das sind mehr als 65 Ziele pro Stunde. Welche Systeme ins Visier genommen wurden und das Modell welches Unternehmens dabei agierte, ist nicht bekannt.
Wenn sich die Angriffe wie berichtet auf 48 Länder erstreckten, reicht die Wirkung eines Gesetzes, das allein der US-Kongress verabschiedet, nicht über die USA hinaus. Das ist der Grund, warum Altmans Vorschlag eines Vertrags zwischen den USA und China und Amodeis Forderung nach internationaler Zusammenarbeit nicht ganz abwegig klingen. Am 15. erschien auch in einer südkoreanischen Morgenzeitung ein Leitartikel mit der Warnung, Big Tech dürfe nicht allein im Wettlauf nach vorn stürmen.
Das Repräsentantenhaus tritt erst nach den Zwischenwahlen im November wieder zusammen. Bis dahin bleibt ungeklärt, wer mit welcher Befugnis außer Kontrolle geratene Agenten stoppen soll.
