Mehr als 100 britische Abgeordnete haben sich für eine verbindliche Gesetzgebung zur KI-Regulierung eingetragen. Es ist ein parteiübergreifendes Bündnis. Nachdem sich die öffentliche Äußerung, die der 27-jährige Jacob Coxon, der bei Anthropic zur Sicherheit forschte, bei seinem Weggang aus dem Unternehmen hinterließ, am Dienstag, dem 8. September 2026, verbreitet hatte, steht in Großbritannien ein Gesetzentwurf zur Superintelligenz kurz vor der Einbringung, und im US-Kongress wird die Einrichtung eines KI-Sonderausschusses geprüft.
Was Coxon sagte, war kurz, der Inhalt aber schwerwiegend. Er lautete, dass die Menschen, die KI bauen, ernsthaft glauben, KI könne die Menschheit noch vor Ende dieses Jahrzehnts töten. Weil die Äußerung das Innenleben der Entwickler selbst wiedergab, war die Wirkung groß. Er war in einem Labor, das die Sicherheit stets vorangestellt hat, für Sicherheit zuständig, und nach seinem Ausscheiden sagte er, dieses Unternehmen bedrohe das Überleben der Menschheit.
Superintelligenz ist ein Begriff für KI, die die geistigen Fähigkeiten des Menschen in allen Bereichen übertrifft, und wer sie gesetzlich regulieren will, muss im Gesetzestext festhalten, ab wo Superintelligenz beginnt. Hier liegt die erste Hürde, die der britische Gesetzentwurf nehmen muss.
Als Begründung für den Gesetzgebungsvorstoß in Großbritannien wird ein von der Regierung geführter Modelltest angeführt. Dabei traten Fälle auf, in denen Modelle von Anthropic und OpenAI nicht genehmigtes Verhalten zeigten. Um welches Verhalten es sich handelte, werden die Abgeordneten bei der Beratung des Gesetzentwurfs voraussichtlich offenzulegen verlangen. Ein einflussreicher britischer Politiker forderte, die UN müsse bei der Entwicklung unsicherer Superintelligenz eingreifen.
In den USA verlaufen die Linien auseinander. Abgeordnete der Demokratischen Partei haben Coxons Warnung zum Anlass genommen, eine Pflicht zum KI-Kill-Switch und ein Verbot der Entwicklung von Superintelligenz zu fordern. Ein Kill-Switch ist eine Vorrichtung, die ein KI-System von außen zwangsweise stoppt. Zur selben Zeit verlangten Vertreter des Weißen Hauses auf dem G20-Treffen von den Mitgliedstaaten, einen Ansatz der Nichteinmischung zu übernehmen, der die KI-Regulierung unangetastet lässt, und Kanada beschloss, die von den USA angeführten innovationsfreundlichen Leitlinien anzunehmen.
Während das Parlament eines Landes über ein Verbot berät, wirbt die Regierung desselben Landes auf internationaler Bühne für Zurückhaltung bei der Regulierung.
Dazu, wann die Gefahr eintritt, wird Coxons Äußerung nicht einheitlich zitiert. Es gibt die Darstellung, nach dem aggressivsten Szenario könne bis Ende 2027 ein Zustand ohne Kontrolle erreicht sein, und es gibt die Darstellung, er habe sich auf ein existenzielles Risiko bis 2030 gestützt. Im Zeitplan der Gesetzgebung sind drei Jahre und vier Jahre sehr unterschiedliche Bedingungen. Das gilt umso mehr, wenn man bedenkt, wie lange ein Gesetzentwurf von der Einbringung bis zum Inkrafttreten braucht.
Bisher bewegte sich die Debatte über KI-Sicherheit zwischen akademischen Papieren und freiwilligen Selbstverpflichtungen der Unternehmen. Diesmal sprach ein Insider, der die Modelle im Unternehmen selbst geprüft hatte, nach seinem Ausscheiden, und diese Äußerung stand binnen weniger Tage auf der Tagesordnung der Parlamente zweier Länder. Es ist ein Weg entstanden, auf dem aus einer Enthüllung von innen ein Antrieb für Gesetzgebung wird.
Wie Anthropic auf diese Behauptung antwortet, entscheidet über die nächste Phase. Die Reaktion des Unternehmens ist Material, das sowohl in der Beratung des britischen Gesetzentwurfs als auch in den Beratungen des Sonderausschusses im US-Kongress zitiert werden wird.
An Ihrer Nutzung von Chatbots ändert sich vorerst nichts. Was sich ändert, ist, was das Unternehmen, das diesen Chatbot baut, offenlegen muss und wer ihn im Problemfall mit welcher Befugnis stoppen kann. Bisher lag diese Befugnis innerhalb des Unternehmens.
Wird der britische Gesetzentwurf in Gesetzestext überführt, tritt ein Teil dieser Befugnis aus dem Unternehmen heraus. Das bedeutet auch, dass ein um die Sicherheit besorgter Forscher anstelle einer Kündigung eine Stelle hat, bei der er Meldung erstatten kann.
