5月第三周和第四周，性质看似不同的讨论接连举行。20日在国会议员会馆有一场讨论会，涉及机器人和自动驾驶这类拥有身体的AI的责任问题，21日在江南举行了面向出口企业的AI、网络安全监管应对研讨会。22日，金融委员会在龙仁金融保安院讨论高性能AI的安全威胁，并提出了放宽网络分离的方案。
三场活动都触及同一个问题。监管的关注正从AI说了什么，转向AI让什么动了、由谁对结果负责。
此前AI监管瞄准的是学习数据的来源和输出内容的准确性。大规模语言模型是以学习数据中词语的统计关系为基础、用概率挑出下一个词的方式，因此把虚假内容编得像模像样的幻觉从原因上就已内置。2025年底，一名公认劳务师在不当解雇审理中把ChatGPT编造的、并不存在的判例引用到答辩书里，就是这样的例子。大法院2026年3月通过专门工作组提出应对方案，要求说明使用AI的事实，并对引用虚假法令进行制裁。
2024年在加拿大航空，发生了聊天机器人告知规定中没有的退款、折扣的事。这个例子显示，错误的句子可能被当作公司的承诺。到这里为止的损害可以换算成文件和金钱。当对方有了手臂或轮子，情况就不一样了。
国会讨论会的焦点就在那里。现行《产品责任法》规定，由受害者直接举证存在缺陷、以及该缺陷导致损害的因果关系。徐治源(서치원)律师指出，在围绕自动驾驶和高级驾驶辅助装置的诉讼中，法院一边承认消费者难以举证，一边最终以缺陷举证不足为由驳回请求的情况反复出现。这是在提出问题：在软件日志和传感器记录掌握在制造商手中的情况下，对受害者适用同样的标准是否合适。
围绕现代汽车引入Atlas的争议，把“物理AI”这个词推到了讨论的前面。有人建议把举证责任转移到制造商一方，但包含这一内容的法案是否已提出，尚无确定。
出口现场对这一转变感受得最快。据国家技术标准院TBT AI、网络安全委员会的梁松伊(양송이)委员长(Connect AI代表)介绍，海外买家在合同阶段就会确认产品的哪个部分含有AI、是否把客户数据用于学习、以何种方式提供安全更新、由谁接收漏洞举报并由谁打补丁。被要求以文件形式提交AI功能清单、数据流程图、漏洞应对流程、软件物料清单SBOM、事故应对体系的企业正在增多。
背景是欧盟《网络韧性法案》。这部法案2024年12月10日生效，主要义务从2027年12月11日起适用，对含有数字要素的硬件和软件产品全面施加安全要求。制造商要在企划、设计、开发、维护各个阶段体现安全，产品卖出之后也要在整个生命周期内管理漏洞并提供更新。这是监管越过审批程序、作为进入市场关口发挥作用的形态。
金融领域出台了方向相反的措施。金融委员会只面向满足总资产10万亿韩元以上、常时员工1000人以上条件、依据《电子金融交易法》设有专职CISO的49家金融公司，接受放宽网络分离的申请。获批的机构可在1年内临时使用利用高性能AI的漏洞测试和安全SaaS解决方案。对策的起点是担心美国Anthropic的高性能AI“Mitos”找出陈旧的安全漏洞后被用于黑客攻击。
其逻辑是，攻击方开始使用AI，因此也允许防御方使用同样的工具。第一轮审查以10家以内为对象，在6-7月完成，第二轮以10-20家为目标在8-9月进行，第三轮在第四季度进行。对未申请的金融公司，金融保安院将在7月前以最多17家的规模，支持针对外部攻击面的AI漏洞检查。金融保安院将分别新设金融AI安全研究所和面向中小型金融公司的AI安全支援中心，还将组建学界、业界参与的民间技术咨询团。
放宽和加强看起来在同时推进，但原理相同。这是从事前阻断风险的方式，转向向具备能力的主体开门、同时让其承担事后责任和管理义务的方式。政府通过《AI基本法》，对高风险领域的AI开发、提供企业施加风险管理义务。开门的时点与追究责任的程序是否以同样的步幅前进，是另一个问题。
6月马上可以确认两件事。金融委员会将发布包含计算资源分类标准和程序补丁优先顺序的AI安全指南，网络分离放宽第一轮审查结果也将出来。在这期间，工厂和道路上有身体的AI继续增多。被机器人推倒的人在医院拿到诊断书时，要用那份文件证明什么，仍然没有理清，6月的日程表上没有这一项。
