In der dritten und vierten Maiwoche fanden nacheinander Veranstaltungen statt, die unterschiedlicher Natur zu sein schienen. Am 20. gab es im Abgeordnetengebäude der Nationalversammlung (국회의원회관) eine Diskussionsveranstaltung zur Haftungsfrage bei KI mit einem Körper, wie bei Robotern und autonomem Fahren, und am 21. fand in Gangnam ein Seminar für Exportunternehmen zum Umgang mit KI- und Cybersicherheitsregulierung statt. Am 22. erörterte die Finanzdienstleistungskommission (금융위원회) beim Finanzsicherheitsinstitut (금융보안원) in Yongin die Sicherheitsbedrohungen durch hochleistungsfähige KI und legte Pläne zur Lockerung der Netztrennung vor.
Alle drei Veranstaltungen berührten dieselbe Frage. Das Interesse der Regulierung verlagert sich davon, was die KI gesagt hat, dahin, was die KI bewegt hat und wer für das Ergebnis haftet.
Bisher zielte die KI-Regulierung auf die Herkunft der Trainingsdaten und die Genauigkeit der Ausgaben. Große Sprachmodelle wählen das nächste Wort nach Wahrscheinlichkeit aus, gestützt auf die statistischen Beziehungen der in den Trainingsdaten enthaltenen Wörter, deshalb ist die Halluzination, das plausible Erfinden falscher Inhalte, schon von der Ursache her eingebaut. Ein Beispiel dafür ist der Fall Ende 2025, in dem ein zugelassener Arbeitsrechtsberater (공인노무사) in einem Verfahren wegen ungerechtfertigter Kündigung ein von ChatGPT erzeugtes, nicht existierendes Präzedenzurteil in seinem Schriftsatz zitierte. Der Oberste Gerichtshof legte im März 2026 über eine eigens eingerichtete Taskforce Maßnahmen vor, nach denen die Nutzung von KI offenzulegen ist und das Zitieren falscher Rechtsvorschriften sanktioniert wird.
2024 kam es bei Air Canada dazu, dass ein Chatbot eine in den Bestimmungen nicht vorgesehene Erstattung und Ermäßigung zusagte. Ein Fall, der zeigte, dass ein falscher Satz als Zusage des Unternehmens behandelt werden kann. Der Schaden lässt sich bis zu diesem Punkt in Dokumente und Geld umrechnen. Sobald das Gegenüber Arme oder Räder hat, ändert sich die Lage.
Dort lag der Schwerpunkt der Diskussionsveranstaltung in der Nationalversammlung. Das geltende Produkthaftungsgesetz (제조물 책임법) legt fest, dass der Geschädigte selbst nachweisen muss, dass ein Fehler vorlag und dass zwischen diesem Fehler und dem Schaden ein Kausalzusammenhang besteht. Rechtsanwalt Seo Chi-won wies darauf hin, dass sich in Prozessen um autonomes Fahren und fortgeschrittene Fahrerassistenzsysteme Fälle wiederholt haben, in denen die Gerichte zwar anerkannten, dass der Nachweis für Verbraucher schwierig ist, die Klage am Ende aber mit der Begründung abwiesen, der Fehlernachweis reiche nicht aus. Damit wird die Frage aufgeworfen, ob es richtig ist, an den Geschädigten denselben Maßstab anzulegen, während die Hersteller die Softwareprotokolle und Sensoraufzeichnungen in der Hand halten.
Die Kontroverse um die Einführung von Atlas bei Hyundai Motor hat den Begriff „physische KI“ in den Vordergrund der Debatte gerückt. Es kam der Vorschlag, die Beweislast auf die Herstellerseite zu verlagern, ob ein entsprechender Gesetzentwurf eingebracht wurde, ist jedoch nicht bestätigt.
Am schnellsten spürt der Exportbereich diesen Wandel. Nach Angaben von Yang Song-i, Vorsitzende des TBT-Ausschusses für KI und Cybersicherheit beim Amt für technische Normung (국가기술표준원) und Geschäftsführerin von Connect AI, prüfen ausländische Käufer bereits in der Vertragsphase, in welchem Teil des Produkts KI steckt, ob Kundendaten für das Training verwendet werden, auf welche Weise Sicherheitsupdates bereitgestellt werden und wer Schwachstellenmeldungen entgegennimmt und wer patcht. Immer mehr Unternehmen werden aufgefordert, eine Liste der KI-Funktionen, ein Datenflussdiagramm, Verfahren zum Umgang mit Schwachstellen, die Softwarestückliste SBOM und ein System zur Störungsbewältigung als Dokumente vorzulegen.
Den Hintergrund bildet das EU-Cyberresilienzgesetz. Dieses Gesetz, das am 10. Dezember 2024 in Kraft trat und dessen wichtigste Pflichten ab dem 11. Dezember 2027 gelten, erlegt Hardware- und Softwareprodukten mit digitalen Elementen insgesamt Sicherheitsanforderungen auf. Hersteller müssen Sicherheit in allen Phasen von Planung, Entwurf, Entwicklung und Wartung berücksichtigen und auch nach dem Verkauf des Produkts über den gesamten Lebenszyklus Schwachstellen verwalten und Updates bereitstellen. Die Regulierung wirkt damit über das Zulassungsverfahren hinaus als Tor zum Marktzugang.
Im Finanzsektor kam eine Maßnahme mit gegenläufiger Richtung. Die Finanzdienstleistungskommission nimmt Anträge auf Lockerung der Netztrennung nur von den 49 Finanzunternehmen entgegen, die die Voraussetzungen von mindestens 10 Billionen Won Gesamtvermögen und mindestens 1000 festen Beschäftigten erfüllen und nach dem Gesetz über elektronische Finanzgeschäfte einen eigenen CISO haben. Genehmigte Unternehmen dürfen ein Jahr lang befristet Schwachstellentests mit hochleistungsfähiger KI und Sicherheits-SaaS-Lösungen nutzen. Ausgangspunkt der Maßnahme war die Sorge, dass die hochleistungsfähige KI „Mitos“ des US-Unternehmens Anthropic alte Sicherheitslücken aufspürt und für Hackerangriffe missbraucht werden könnte.
Die Logik lautet, dass die Angreiferseite begonnen hat, KI einzusetzen, und deshalb auch der Verteidigungsseite dasselbe Werkzeug erlaubt wird. Die erste Prüfungsrunde richtet sich an bis zu 10 Unternehmen und wird im Juni-Juli abgeschlossen, die zweite Runde läuft mit dem Ziel von 10-20 Unternehmen im August-September, die dritte im vierten Quartal. Für Finanzunternehmen, die keinen Antrag gestellt haben, unterstützt das Finanzsicherheitsinstitut bis Juli eine KI-Schwachstellenprüfung der externen Angriffsfläche im Umfang von bis zu 17 Unternehmen. Beim Finanzsicherheitsinstitut werden ein Forschungsinstitut für Finanz-KI-Sicherheit und ein Zentrum zur Unterstützung der KI-Sicherheit für kleine und mittlere Finanzunternehmen neu eingerichtet, und es wird auch ein privates Technikberatungsgremium mit Beteiligung von Wissenschaft und Wirtschaft gebildet.
Lockerung und Verschärfung scheinen gleichzeitig zu laufen, das Prinzip ist jedoch dasselbe. Von einem Vorgehen, das Risiken vorab abschneidet, wird zu einem Vorgehen übergegangen, das den Akteuren mit entsprechenden Fähigkeiten die Tür öffnet, ihnen aber nachträgliche Haftung und Verwaltungspflichten auferlegt. Die Regierung erlegt über das KI-Rahmengesetz (AI 기본법) den Unternehmen, die KI in Hochrisikobereichen entwickeln und bereitstellen, Pflichten zum Risikomanagement auf. Ob der Zeitpunkt der Türöffnung und das Verfahren der Haftungsprüfung im gleichen Schritt gehen, ist eine andere Frage.
Schon im Juni werden zwei Dinge sichtbar. Die Finanzdienstleistungskommission verteilt eine KI-Sicherheitsrichtlinie mit Klassifizierungskriterien für IT-Ressourcen und Prioritäten für Programm-Patches, und das Ergebnis der ersten Prüfungsrunde zur Lockerung der Netztrennung liegt vor. In der Zwischenzeit nimmt in Fabriken und auf Straßen die Zahl der KI mit einem Körper weiter zu. Was jemand, den ein Roboter gestoßen hat, mit dem im Krankenhaus ausgestellten Attest in der Hand damit nachweisen muss, bleibt ungeklärt, und im Terminplan für Juni fehlt dieser Punkt.
