Das Rahmengesetz über die Entwicklung der künstlichen Intelligenz und die Schaffung einer Vertrauensgrundlage, das sogenannte KI-Grundgesetz, ist seit dem 22. in Kraft. Ein umfassendes Gesetz zur KI hat die Europäische Union früher erlassen, doch Korea ist der erste Fall, in dem ein Gesetz in seiner Gesamtheit zu einem einzigen Zeitpunkt angewandt wird. Die Europäische Union hat sich dafür entschieden, die Regeln für Hochrisiko-KI und KI mit allgemeinem Verwendungszweck in Stufen umzusetzen. Am dritten Tag nach dem Inkrafttreten richtet sich das Interesse der Industrie weniger darauf, was das Gesetz verbietet, als darauf, was es leer gelassen hat.
Die neu entstandenen Pflichten teilen sich grob in drei Stränge. Der erste ist die Transparenzpflicht, nach der Bilder, Videos und Tonaufnahmen, die mit generativer KI erzeugt und nach außen verbreitet werden, als "KI-Erzeugnis" gekennzeichnet werden müssen. Der zweite ist die Pflicht für KI mit hoher Auswirkung, der dritte die Pflicht zur Sicherheitsvorsorge, die für hochleistungsfähige KI mit großem Rechenaufwand im Training gilt. Die Regierung betont, der Schwerpunkt dieses Gesetzes liege eher auf der Förderung als auf der Regulierung, und verweist auf den "Grundsatz der notwendigen Mindestregulierung".
Träger der Kennzeichnungspflicht sind die Unternehmen, die generative KI-Dienste anbieten. Privatpersonen, die diese Dienste nutzen, sind nicht Träger der Pflicht. Bei gewöhnlichen Ergebnissen wie Animationen oder Webtoons sind neben sichtbaren Kennzeichen auch nur maschinell lesbare Verfahren wie digitale Wasserzeichen zulässig, bei Deepfake-Videos muss dagegen eine für die Nutzer klar erkennbare sichtbare Kennzeichnung angebracht werden. Wird die Technik wie bei Chatbots nur im internen Dienst verwendet, genügt es, den KI-Einsatz über die Bildschirmgestaltung oder ein Logo anzuzeigen, und von dem Moment an, in dem Bilder oder Videos heruntergeladen oder geteilt werden, ist ein erkennbares Wasserzeichen nötig.
Die Sicherheitspflicht ist faktisch ein leeres Feld. Sie gilt für Modelle, deren kumulierte Rechenleistung im Training 10 hoch 26 FLOPs oder mehr beträgt, doch die Regierung erklärte, es gebe kein Modell, das diesen Maßstab erfülle. Damit handelt es sich eher um eine Linie, die im Voraus für künftige Modelle gezogen wurde. Bei KI mit hoher Auswirkung ist die Einstufung dagegen sofort nötig, als Beispiel für einen Regulierungsfall nannte die Regierung jedoch nur das vollständig autonome Fahren ab Level 4.
Hier beginnt die Kontroverse. Greift im Prozess der endgültigen Entscheidung ein Mensch ein, fällt das System aus der Regulierung für KI mit hoher Auswirkung heraus, doch der Maßstab dafür, welches Ausmaß an Beteiligung als Eingreifen zählt, ist nicht festgelegt. Wenn schon das Einfügen eines formalen Genehmigungsverfahrens von der Pflicht befreit, entsteht Raum dafür, dass Bereiche, die das Leben von Menschen unmittelbar erschüttern, etwa Einstellungsverfahren oder Kreditprüfungen, außerhalb der Regulierung liegen.
Das geltende Gesetz definiert lediglich die "betroffene Person", ein Recht dieser Person, nach den Gründen der Entscheidung zu fragen, oder ein Recht auf Widerspruch enthält es nicht. Auch das Recht auf Erläuterung nach dem Gesetz zum Schutz personenbezogener Daten greift nur bei "vollständig" automatisierten Entscheidungen, in dem Moment, in dem ein Mensch einmal eingreift, ist auch dieses Recht verschlossen.
Auch bei der Kennzeichnungspflicht gibt es ein ähnliches leeres Feld. Löscht eine Privatperson beim Hochladen von mit KI erzeugten Inhalten auf eine Plattform die Kennzeichnung des Erzeugnisses, ist das kein Verstoß gegen das KI-Grundgesetz. Bei einem Missbrauch von Deepfakes greifen bestehende Gesetze wie das Gesetz zur Bestrafung sexueller Gewalt oder das Gesetz über Informations- und Kommunikationsnetze, eine Bestimmung, die das Löschen der Kennzeichnung selbst erfasst, enthält dieses Gesetz nicht. Ein Änderungsentwurf zum Gesetz über Informations- und Kommunikationsnetze, der diese Lücke schließen soll, liegt der Nationalversammlung vor.
Auch die Härte der Sanktionen fällt im Vergleich zur Europäischen Union anders aus. Die Europäische Union verhängt bei Verstößen eine Geldbuße von 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist, während Korea ein Bußgeld von höchstens 30 Millionen Won auferlegt. Anders als die Europäische Union, die bei Hochrisiko-KI sowohl Anbieter als auch Betreiber verpflichtet, verpflichtet Korea allein die KI-Unternehmen. Wichtiger als die Höhe der Strafe ist als praktischer Unterschied, dass der Kreis derer, die eine Pflicht tragen, eng ist.
Die Regierung hat entschieden, bei den Regeln zu hoher Auswirkung, Sicherheit und Transparenz die Sachverhaltsermittlung und die Verhängung von Bußgeldern um mindestens ein Jahr aufzuschieben. In dieser Zeit bietet sie statt Untersuchungen eine Beratung über den "Support-Desk zum KI-Grundgesetz" an, und vor dem Inkrafttreten hielt sie Informationsveranstaltungen ab und veröffentlichte Anwendungsbeispiele der Regulierung sowie Leitlinien zur Sicherung der Transparenz. Diese Übergangsfrist ist weniger eine Zeit des aufgeschobenen Strafens als eine Zeit, in der die Beurteilungsmaßstäbe mit tatsächlichen Fällen gefüllt werden. Im Gesetz ist auch die Grundlage dafür enthalten, alle drei Jahre einen Grundplan für künstliche Intelligenz aufzustellen und einen Nationalen Strategieausschuss für künstliche Intelligenz einzurichten.
Die Instrumente auf der Förderseite sind vergleichsweise dicht. Aufgenommen wurde ein Fördersystem für den gesamten Zyklus, von Forschung und Entwicklung sowie dem Aufbau von Trainingsdaten über die Unterstützung von Einführung und Nutzung, Unternehmensgründung und Konvergenz, die Sicherung von Fachkräften bis zum Aufbau von KI-Rechenzentren und Clustern. Auch die Grundlage für ein integriertes Bereitstellungssystem, über das Trainingsdaten an einer Stelle bezogen werden können, wurde geschaffen. Die Konstruktion sieht vor, während die Felder der Regulierung leer sind, zuerst die Felder der Förderung zu füllen.
Aus Sicht der Nutzer ändert sich unmittelbar ein kleines Zeichen auf dem Bildschirm. Heruntergeladene Bilder tragen ein Wasserzeichen, vor Deepfake-Videos erscheint ein Hinweistext. Eine Stelle, bei der man nach einer Ablehnung in der Kreditprüfung fragen könnte, wie stark KI an dieser Entscheidung beteiligt war, ist bis heute nicht geöffnet worden. Im kommenden Jahr wird zu beobachten sein, was außer dem autonomen Fahren noch auf die Liste der KI mit hoher Auswirkung gelangt.
