Das Rahmengesetz über die Entwicklung der künstlichen Intelligenz und die Schaffung einer Vertrauensgrundlage, kurz KI-Rahmengesetz, ist am 22. Januar in Kraft getreten. Mit dem zehnten Tag seit dem Inkrafttreten hat sich die Debatte darauf verlagert, was das Gesetz tatsächlich erfasst. Die beiden Achsen sind die zehn Bereiche, die die Regierung als KI mit hoher Auswirkung ausgewiesen hat, und die auf mindestens ein Jahr angekündigte Schonfrist.
Als KI mit hoher Auswirkung gilt künstliche Intelligenz, die erhebliche Auswirkungen auf Leben, Sicherheit und Grundrechte von Menschen hat. Die Regierung hat hier zehn Felder aufgenommen, Energie, Trinkwasser, Medizin, Kernenergie, Strafermittlung, Personalauswahl, Kreditprüfung, Verkehr, öffentliche Dienstleistungen und Bildung. Fällt ein System in diese Bereiche, bündeln sich darauf Pflichten zu Transparenz, Sicherheit und Verantwortlichkeit. Das heißt, es muss erklärt werden, wie das System zu seinem Ergebnis gekommen ist, Risiken müssen gesteuert werden, und bei Problemen muss geklärt werden, wer verantwortlich ist.
Die Frage ist, wie weit diese zehn Türen offen stehen. Ein Vertreter des Ministeriums für Wissenschaft und IKT (과학기술정보통신부) erklärte, KI mit hoher Auswirkung sei als System ohne jede menschliche Beteiligung definiert, weshalb es nicht viele einschlägige Fälle gebe. Als Beispiel nannte er das Niveau des vollautonomen Fahrens der Stufe 4. Die Liste umfasst zehn Zeilen, die tatsächlich erfassten Fälle werden aber sehr eng.
Am Beispiel der Personalauswahl wird die Lücke deutlich. Auch wenn bei der Prüfung der Unterlagen KI eingesetzt wird, fällt der Fall aus der Regulierung heraus, sobald ein Mensch beteiligt ist. Woran sich der Grad der Beteiligung bemisst, ist in den Rechtsvorschriften jedoch nicht geregelt. Zwischen dem bloßen Überfliegen des Ergebnisses durch den Zuständigen und der Befugnis, das Ergebnis umzustoßen, liegt ein beträchtlicher Abstand, doch eine Skala zum Messen dieses Abstands gibt es nicht.
Diese Konstruktion ist zum Teil so gewollt. Anders als das KI-Gesetz der Europäischen Union verbietet das KI-Rahmengesetz den Einsatz bestimmter künstlicher Intelligenz nicht grundsätzlich. Es ist eine abgestufte Regulierung, die nur Bereichen mit großer gesellschaftlicher Wirkung eine Steuerungsverantwortung auflegt.
Auch die Unternehmen werden in Entwicklungsunternehmen und Anwenderunternehmen unterteilt, und bei den Unternehmenspflichten Nummer 1-3 gilt die Pflicht auch für das Anwenderunternehmen als erfüllt, wenn das Entwicklungsunternehmen sie erfüllt. Das ist eine Vorkehrung, um die Belastung der einführenden Unternehmen zu verringern.
Auch in der Praxis richtet sich das Interesse darauf. Die Anwaltskanzlei Daeryun (법무법인 대륜) und der koreanische KI-Verband (한국인공지능협회) veranstalteten am 29. Januar in Yeouido das Seminar 'KI-Rahmengesetz: Strategien für Unternehmen' online und offline. Die Regierung will eine Schonfrist von mindestens einem Jahr einräumen, einen Unterstützungsschalter betreiben und die Leitlinien ausbauen. Ab wann die Schonfrist gezählt wird und worauf sich diese Frist stützt, wurde nicht mitgeteilt.
Deutlich wurde auch, dass sich die Meinungen schon bei der Richtung der Regulierung scheiden. Auf der von der Stadt Seoul und dem Seoul AI Hub am 30. Januar veranstalteten 'AI Seoul 2026' sagte Yoshua Bengio, Professor an der Universität Montreal, mit Verweis auf die Unsicherheit universeller KI sei eine Regulierung nötig. Auf derselben Veranstaltung hielt Ko Sang-won, leitender Forschungsbeauftragter am Korea Information Society Development Institute (정보통신정책연구원), dagegen, zur Rettung der Innovation müsse die Regulierung gelockert werden. Als Begründung führte Ko an, dass sich die Europäische Union in Richtung einer Verschiebung des Regulierungsbeginns für hochriskante KI bewege und die USA ihren Deregulierungskurs fortsetzten.
Auch die Bezeichnung als weltweit erstes Gesetz ist Gegenstand der Debatte. Es gibt die Sicht, dieses Gesetz sei das weltweit erste KI-Rahmengesetz, und zugleich den Einwand, das sei nicht der Fall. Deshalb wird der Gehalt wichtiger als der Streit um die Bezeichnung. Auf wie viele Fälle das Gesetz angewendet wurde, wird zum Zeugnis des kommenden Jahres.
Unmittelbar ändert sich wenig. Bewerber, die wissen wollen, ob bei der Auswahlentscheidung KI eingesetzt wurde, und Menschen, die bei der Kreditprüfung eine Begründung hören wollen, haben derzeit wenig in der Hand. Erst wenn die Schonfrist endet und die Skala für die menschliche Beteiligung festgelegt ist, wird dieses Gesetz zum ersten Mal eine tatsächliche Einstufung vornehmen. Bis dahin bleibt das KI-Rahmengesetz ein Gesetz, das in Kraft ist und zugleich seine Arbeit noch nicht aufgenommen hat.
