Am 15. und 16. September wurden binnen zwei Tagen nacheinander Stimmen laut, die vor den Gefahren der KI warnen. Yoshua Bengio, der als ‚Pate der KI' bezeichnet wird, warnte, die Menschheit könne die Macht verlieren, KI zu kontrollieren, und Anthropic-Vorstandschef (CEO) Dario Amodei forderte, die Branche müsse gemeinsam Sicherheitsmaßnahmen ergreifen. Es gibt auch Widerspruch. Nvidia-CEO Jensen Huang erklärte, KI lasse sich auch ohne neue Sicherheitsgesetze schnell entwickeln, und sprach sich gegen neue Regulierung aus.
Da CEOs der Technologiebranche nacheinander Warnungen mit Forderungen nach Regulierung vorbringen, gewinnt die Debatte über KI-Regulierung zunehmend an Gewicht. Auch die Streitfrage hat sich verschoben. Die Positionen von Bengio, Amodei und Huang gehen bei der Frage auseinander, wer die Entwicklung mit welchen Mechanismen kontrolliert.
Amodeis Rezept geht einen Schritt weiter. In einem Essay mit dem Titel 'We Must Pace the Frontier' argumentierte er, die Branche solle das Tempo bei der Entwicklung von Frontier-Modellen drosseln, bis Schutzvorkehrungen, Aufsichtssysteme und Alignment-Techniken aufgeholt haben. Als Frontier-Modelle werden unter den neuesten KI-Modellen der einzelnen Unternehmen jeweils die leistungsstärksten bezeichnet.
Alignment bezeichnet die Arbeit, KI so abzustimmen, dass sie sich im Einklang mit den von Menschen beabsichtigten Zielen und Werten verhält. Der Essay wurde am vergangenen Wochenende veröffentlicht.
Amodei richtete zugleich die Aufforderung an die Unternehmen, gemeinsam Sicherheitsanstrengungen zu organisieren, und die Aufforderung, bei den fortschrittlichsten Modellen die Zügel der Entwicklung anzuziehen.
Bengios Warnung zielt auf eine grundlegendere Ebene. Sie geht über die Fehlfunktion eines bestimmten Produkts hinaus und warnt, dass die Fähigkeit des Menschen, KI anzuhalten und zu korrigieren, selbst verschwinden könnte. Hinter der wiederholten Forderung der Befürworter von Schutzvorkehrungen nach Zügeln für die Entwicklung steht diese Sorge vor einem Kontrollverlust.
Jensen Huang argumentiert von der entgegengesetzten Seite. Auch ohne neue Regulierung könne die KI-Entwicklung zügig weitergehen. Huang sagte auch, ob ein Produkt sicher genug für die Markteinführung sei, könnten die Unternehmen selbst beurteilen. Folgt man Huangs Logik, sind die Instanz, die die Sicherheit prüft, und die Instanz, die über die Markteinführung entscheidet, ein und dasselbe Unternehmen.
Die Stimmung in Washington liegt näher an Huangs Position.
Präsident Trump hat sich gegenüber Forderungen, die KI-Entwicklung zu verlangsamen oder die Regulierung zu verschärfen, bislang zurückhaltend gezeigt. Solange die Regierung nicht bremst, bleiben die Mechanismen zur Kontrolle von KI zwangsläufig auf freiwillige Zusagen der Branche oder interne Unternehmensstandards angewiesen.
Beide Lösungsansätze haben Lücken. Eine Verlangsamung nach Amodeis Art wirkt nur, wenn die gesamte Branche ihr Tempo abstimmt, doch schon wenn ein einziges Unternehmen vorprescht, verliert die Zusage ihre Kraft. Bei der Selbstbestimmung nach Huangs Art werden die Kriterien für die Markteinführung innerhalb des Unternehmens festgelegt, sodass von außen kaum überprüft werden kann, ob diese Kriterien ausreichend waren. Der von Bengio angesprochene Kontrollverlust löst sich mit keinem der beiden Ansätze von selbst.
Die Debatte geht über das Stadium der Erklärungen hinaus und tritt in die Phase der institutionellen Gestaltung ein. Die nächsten Streitpunkte sind, wer den Zeitpunkt für eine Verlangsamung der Entwicklung bestimmt, welche Befugnisse Aufsichtsgremien erhalten und ob es Mittel gibt, die von den Unternehmen selbst bewerteten Ergebnisse von Sicherheitsprüfungen extern zu überprüfen. Da Anthropic Modelle entwickelt und Nvidia die KI-Branche mit Halbleitern beliefert, stehen die beiden Unternehmen schon an unterschiedlichen Positionen, was eine Einigung erschwert.
Ob die Befugnis, KI anzuhalten, wenn sie auch Aufgaben übernehmen will, die ihr nicht übertragen wurden, nur im Unternehmen liegen oder auch externen Aufsichtsbehörden gegeben werden soll, ist die Frage, an der sich die Debatte zwischen Amodei und Huang scheidet.
