Das „Rahmengesetz über die Entwicklung künstlicher Intelligenz und den Aufbau einer Vertrauensgrundlage" (KI-Rahmengesetz) ist am 22. Januar vollständig in Kraft getreten, seitdem ist mehr als ein Monat vergangen. Anders als Einzelgesetze, die eine bestimmte Branche gesondert regeln, ist es ein übergeordnetes Gesetz, das KI insgesamt umfasst, und gilt deshalb vorrangig, wenn andere Gesetze keine besonderen Bestimmungen enthalten. In der Reihenfolge der Verabschiedung ist es das zweite, bei der vollständigen Inkraftsetzung gilt es als das weltweit erste. Doch die Reaktion in der Praxis nach einem Monat gleicht eher einem Stillstand als einer Ordnung.
Im Zentrum steht der Begriff der „Hochwirkungs-KI" (고영향 AI). Das Gesetz definiert als Hochwirkungs-KI solche KI, deren Ergebnisse erhebliche Auswirkungen auf Leben und körperliche Sicherheit von Menschen oder auf die Wahrnehmung von Grundrechten haben oder Gefahren verursachen können. Die Regierung hat dafür nach vorliegenden Informationen zehn Bereiche festgelegt, als typische Beispiele werden Medizin und Gesundheit, Energie, Personaleinstellung und Kreditprüfung genannt. Wird eine KI als Hochwirkungs-KI eingestuft, müssen die Anbieter Maßnahmen zum Risikomanagement, zur Erklärung der Ergebnisse und zum Schutz der Nutzer vorhalten.
Das Problem ist die Linie, die trennt, was als Hochwirkungs-KI gilt. Auch nach dem Inkrafttreten ist der Anwendungsbereich auf Ebene der Gesetzestexte nicht dicht genug geregelt, weshalb aus Wissenschaft und Industrie der Hinweis kam, dass behördliche Auslegungen und Diskussionen über weitere Gesetzgebung nötig seien. Sind die Kriterien unscharf, wählen Unternehmen eines von zwei Dingen. Sie erhöhen die Kosten durch überzogene Vorkehrungen, oder sie schieben die Entscheidung auf.
Der medizinische Bereich hat diese Unschärfe am schnellsten zu spüren bekommen. Das KI-Forschungszentrum des Samsung Medical Center (삼성서울병원) veranstaltete am 23. das „Seminar zur Neuordnung von Recht und Institutionen im Zeitalter der medizinischen KI" und führte dort die Diskussion, die Kriterien für die Einstufung als Hochwirkungs-KI klarzustellen. In Krankenhäusern wird generative KI häufiger als für Diagnosen für administrative Hilfstätigkeiten wie das Erstellen von Krankenakten oder das Ordnen von Dokumenten eingesetzt, und für die Frage, ob auch dieser Bereich als hochwirksam anzusehen ist, steht kein Maßstab fest. Ob Tätigkeiten ohne direkten Bezug zur Patientensicherheit unter die Regulierung fallen, entscheidet unmittelbar über die Einführungsentscheidungen der Krankenhäuser.
Es gibt auch Stellen, an denen Regulierungen doppelt greifen. Gilt eine medizinische KI als Medizinprodukt, braucht sie eine Zulassung des Ministeriums für Lebensmittel- und Arzneimittelsicherheit (식약처), und gilt sie zugleich als Hochwirkungs-KI, können zusätzlich die Pflichten aus der Zuständigkeit des Ministeriums für Wissenschaft und IKT (과기정통부) gelten. Kim Jae-seon, Professor an der juristischen Fakultät der Dongguk-Universität, wies auf diese Möglichkeit der doppelten Anwendung hin. Inwieweit die von beiden Regelwerken verlangten Dokumente und Verfahren einander ersetzen, ist noch nicht geklärt.
Der Teil, den die Nutzer zu spüren bekommen, ist etwas klarer. Produkte und Dienste, die generative KI einsetzen, müssen die Nutzer vorab darüber informieren, dass sie mit KI arbeiten, und für die Ergebnisse gilt eine Kennzeichnungspflicht. Auch eine Regelung, sichtbare Wasserzeichen einzufügen, soll enthalten sein. Zu Form und Stärke der Kennzeichnung gehen die Erläuterungen auseinander, sodass die Entwicklerfirmen die konkrete Umsetzung nur schwer festlegen können.
Die Regierung beschreibt dieses Gesetz als ausgewogenes Vorhaben mit „70 Prozent Förderung, 30 Prozent Regulierung". Tatsächlich enthält das Gesetz Förderbestimmungen zu KI-Forschung und -Entwicklung, zum Aufbau von Trainingsdaten, zur Unterstützung der Einführung und zur Gewinnung von Fachkräften. Auch der Support-Desk zum KI-Rahmengesetz (인공지능기본법 지원데스크), der Anfragen zum Gesetz entgegennimmt, ist in Betrieb. Wie umfangreich die Förderbestimmungen auch sein mögen, sind die Grenzen der 30 Prozent Regulierung unscharf, richten sich die Unternehmen nach diesen 30 Prozent.
Auch die Entwicklung außerhalb des Landes ist einen Blick wert. Die EU hat ihr KI-Gesetz früher als Korea verabschiedet, ist aber mit Verweis auf den Schutz der eigenen Industrie dazu übergegangen, den Zeitpunkt der Anwendung zu verschieben. Korea ist umgekehrt sofort zur vollständigen Anwendung übergegangen und stellt dafür die Lücken im Aufbau des Regelwerks in Echtzeit fest.
Im Inland wurde das Werkzeug „OpenClaw" (오픈클로), das KI dabei hilft, den gesamten Computer der Nutzer zu steuern, bei Naver und Kakao aus Sicherheitsbedenken gesperrt. Bei jeder neuen Form von KI muss zunächst wieder geprüft werden, in welches Fach sie gehört.
Schlimmer als das Fehlen von Regeln ist ein Zustand, in dem es Regeln gibt, aber unklar bleibt, wie weit sie reichen. So lange Krankenhausmitarbeiter wegen eines einzigen Programms zum Ordnen von Krankenakten die Rechtsabteilung fragen und die Rechtsabteilung wiederum das Ministerium, so lange verzögert sich die Veränderung in den Behandlungsräumen, in die die Patienten kommen. Je nachdem, wie schnell die Grenzlinien neu gezogen werden, kann dieses Gesetz zur Grundlage von Vertrauen werden oder zum Grund dafür, Entscheidungen aufzuschieben.
