Das „Rahmengesetz über die Entwicklung der künstlichen Intelligenz und den Aufbau einer Vertrauensgrundlage" (AI 기본법, KI-Rahmengesetz) tritt am kommenden 22. in Kraft. Genau ein Jahr, nachdem es am 26. Dezember 2024 das Plenum der Nationalversammlung passiert hatte und am 21. Januar 2025 verkündet worden war. Damit wird Südkorea das weltweit erste Land, das ein KI-Regulierungsgesetz vollständig in Kraft setzt. Da die EU beim Zeitpunkt der Gesetzgebung früher war, bezieht sich der Ausdruck „erstes" eher auf den Zeitpunkt des vollständigen Inkrafttretens als auf die Reihenfolge der Gesetzgebung.
Das Gerüst des Gesetzes ist der Begriff der „hochwirksamen KI" (고영향 AI). KI, die erheblichen Einfluss auf das Leben und die körperliche Sicherheit von Menschen oder auf den Schutz der Grundrechte hat oder Gefahren hervorrufen könnte, wird gesondert zusammengefasst und mit schwereren Pflichten belegt. Die Anwendungsbereiche sind in zehn Kategorien unterteilt, dazu gehören Energie, Gesundheitsversorgung, Strafermittlung und Verkehr. Anbieter hochwirksamer KI müssen über den gesamten Lebenszyklus der KI hinweg ein Managementsystem zur Identifizierung und Bewertung von Risiken einrichten und dessen Inhalte dokumentieren.
Bei den Pflichten für allgemeine Anbieter fallen zwei auf. Anbieter, die KI in Diensten oder Produkten einsetzen, müssen die Nutzer vorab darüber informieren. Bei Ton-, Bild- und Videomaterial, das generative KI erzeugt hat, muss eine Kennzeichnung angebracht werden, die auf das KI-Erzeugnis hinweist, wobei neben dem sichtbaren Wasserzeichen auch eine unsichtbare, maschinenlesbare Kennzeichnung dazugehört. Ob auch Ergebnisse kennzeichnungspflichtig sind, bei denen KI nur als Hilfsmittel eingesetzt wurde, dazu hat die Regierung keine offizielle Auslegung vorgelegt.
Das Problem ist die Linie, die bestimmt, bis wohin etwas hochwirksam ist. Da die Beurteilungskriterien auch „weitere durch Präsidialverordnung festgelegte Bereiche" enthalten, wird auf den umfassenden Anwendungsbereich hingewiesen. Das Ministerium für Wissenschaft und IKT (과학기술정보통신부) will anstelle eines einzelnen Zahlenkriteriums mit einem Ablaufdiagramm aussortieren, das bereichsspezifische Einzelpunkte abfragt. Bei autonomen Fahrzeugen fällt die Stufe 3 mit menschlichem Eingriff aus der Hochwirksamkeit heraus und erst ab Stufe 4 greift die Einstufung, so unterscheidet sich bei derselben Technik die Regulierungsintensität je nach Autonomiestufe.
Der Vorbereitungsstand in der Praxis kommt dem Zeitplan des Gesetzes nicht hinterher. Auf eine Umfrage der Startup Alliance (스타트업얼라이언스) bei 101 inländischen KI-Startups antworteten nur 2 Prozent, sie hätten einen Plan zur Umsetzung des KI-Rahmengesetzes aufgestellt. „Kenne die Inhalte nicht genau und bin auch nicht vorbereitet" und „Kenne das Gesetz, die Umsetzung ist aber unzureichend" erhielten je 48,5 Prozent, das heißt, 98 Prozent erleben den Tag des Inkrafttretens ohne tatsächliches Umsetzungssystem. Das ist der Hintergrund dafür, dass die Regierung mit dem Inkrafttreten des Gesetzes direkte Regulierungen wie Bußgelder für mindestens ein Jahr aussetzt und auf Anleitung setzt.
Blickt man nach außen, dreht sich die Regulierungsuhr eher in Richtung Verlangsamung. Die EU hat das KI-Gesetz zuerst geschaffen, doch die Anwendung der zentralen Vorschriften für Hochrisiko-KI ist auf August 2026 angesetzt, und da die Kommission ein „Digitales Vereinfachungspaket" mit Lockerungsvorschlägen vorgelegt hat, wird auch eine Verschiebung bis Ende 2027 erwartet. In den USA haben sich anstelle eines einheitlichen Gesetzes auf Bundesebene Regelungen der einzelnen Bundesstaaten angehäuft. Von 50 Bundesstaaten haben 48 mit Ausnahme von Alaska und Ohio Landesgesetze zu KI, und 13 Bundesstaaten haben auch Strafvorschriften geschaffen.
Der Fokus der Landesgesetze liegt weniger auf einer Ausbreitung über die gesamte Industrie als auf den Punkten, an denen Schäden tatsächlich zutage getreten sind. Am häufigsten ist die Regulierung von Deepfakes, es folgen Chatbots in 6 Bundesstaaten, KI im medizinischen Bereich in 10 Bundesstaaten und die KI-Nutzung durch öffentliche Stellen in 13 Bundesstaaten. Arkansas hat die Herstellung und Verbreitung obszöner Deepfakes unter Strafe gestellt, und Kalifornien hat Chatbot-Anbieter verpflichtet, angemessen zu reagieren, wenn Nutzer Suizid erwähnen. Präsident Trump dagegen hat im Dezember vergangenen Jahres eine Verfügung unterzeichnet, die KI-Regulierungen auf Ebene der Bundesstaaten blockiert, damit bewegen sich Bundesstaaten und Bund in entgegengesetzte Richtungen.
Eine weitere Variable, die über die Wirksamkeit des koreanischen Gesetzes entscheidet, ist die Grenze. Das KI-Rahmengesetz verpflichtet ausländische KI-Unternehmen, die bestimmte Voraussetzungen erfüllen, einen inländischen Vertreter zu benennen, doch welche Unternehmen darunter fallen und wie eine Benennung erzwungen wird, wenn sie unterbleibt, ist bislang nicht greifbar. Wenn nur inländische Unternehmen gewissenhaft Dokumente anhäufen und ausländische Dienste unverändert genutzt werden, verschiebt die Regulierung lediglich Marktanteile. In demselben Zusammenhang steht, dass bis zum 22. Dezember vergangenen Jahres, als die Vorankündigung der Durchführungsverordnung endete, sowohl aus der Industrie als auch von Bürgerorganisationen auf unklare Definitionen hingewiesen wurde.
Die vom Gesetz hinterlassenen Vorkehrungen bleiben nicht bei der Regulierung stehen. Das KI-Sicherheitsinstitut (AI 안전연구소), das die Risiken der KI erforscht und bewertet, hat auf gesetzlicher Grundlage im November vergangenen Jahres eröffnet, und der Minister für Wissenschaft und IKT muss alle drei Jahre einen Grundplan für künstliche Intelligenz aufstellen. Im Nationalen Ausschuss für künstliche Intelligenz (국가인공지능위원회), dessen Vorsitz der Präsident übernimmt, wurde ein Rahmen geschaffen, in dem Staat und Privatwirtschaft gemeinsam Strategien entwerfen. Da Regierungs- und Oppositionsparteien nacheinander Änderungsentwürfe einbringen, ist die Wahrscheinlichkeit gering, dass das in Kraft getretene Gesetz so bestehen bleibt.
Aus Sicht der Nutzer ändert sich nach dem 22. nur wenig. Beim Öffnen eines Beratungsfensters wird zuerst mitgeteilt, ob das Gegenüber ein Mensch oder eine KI ist, und bei einem zugespielten Video steht ein Hinweis, dass es mit KI erstellt wurde, mehr nicht. Ob dieser kleine Hinweis auch an den Stellen wirkt, an denen es um Einstellungsentscheidungen, Kreditprüfungen oder Befundungen in der Notaufnahme geht, zeigt sich, wenn nach Ablauf der einjährigen Übergangsfrist tatsächlich Bußgelder verhängt werden. Das wirkliche Zeugnis des Landes, das den Schalter weltweit als Erstes umgelegt hat, wird von dem Moment an ausgestellt, in dem das Ablaufdiagramm veröffentlicht wird und sich die ersten Einstufungsfälle ansammeln.
