《关于人工智能发展与信任基础营造等的基本法》(AI基本法)于今年1月22日全面施行,已过去一个月。与单独规范特定产业的个别法不同,它是涵盖AI整体的上位法律,若其他法律没有特别规定,则优先适用此法。按制定顺序为第二部,但以全面施行而论,被评价为世界首部。然而施行满一个月的一线反应,与其说是理顺,不如说接近停摆。
核心是"高影响AI"这一概念。法律将AI给出的结果对人的生命、身体安全或基本权利享有产生重大影响,或有可能带来危险的AI定义为高影响AI。据了解,政府将属于此范围的领域指定为10个,医疗保健、能源、招聘、贷款审查被列举为代表事例。一旦被归类为高影响,经营者就必须具备风险管理方案、结果说明方案和用户保护方案。
问题在于划分何为高影响的那条线。法律施行之后,适用范围在条文层面仍未得到细密梳理,需要有权解释和追加立法讨论,这一指摘在学界和产业界两方面都出现了。标准模糊,企业就会在两者中择其一。要么以过度应对增加成本,要么把决定往后推。
医疗一线最快感受到了这种模糊。三星首尔医院AI研究中心于23日举办"医疗AI时代的法律制度重整研讨会",就明确高影响AI分类标准展开了讨论。在医院,生成式AI用于诊断的情况少于用于病历撰写或文件整理等行政辅助,而是否把这一领域也视为高影响,尺度尚未确立。是否要将与患者安全没有直接接触的业务纳入监管对象,直接左右着医院的引进决定。
也存在监管重复适用的地方。医疗AI若属于医疗器械,须取得食药处认证,同时若属于高影响AI,还可能适用科技信通部主管的义务。东国大学法学研究生院教授金在善指出了这种双重适用的可能性。两种监管所要求的文件和程序在多大范围内可以相互替代,尚未整理。
用户能感受到的部分要稍微明确一些。使用生成式AI的产品和服务,必须事先告知用户其由AI运行,产出物则附有标示义务。据称其中还一并载入了要求加入可见水印的方案。围绕标示的形态与强度说法不一,开发商难以确定实际的实现方式。
政府将此法说明为"振兴70%、监管30%"的平衡法案。实际上,AI研发、学习用数据构建、引进支持、专业人才确保等培育规定都写入了法律中。受理法律相关咨询的人工智能基本法支援台也在运营中。振兴一侧的条款再厚,若监管一侧30%的界线模糊,企业就会按那30%来行动。
外部的动向也值得参考。欧盟制定AI法早于韩国,但以保护本国产业为由,转向推迟施行时间。韩国反而径直进入全面施行,代价是正在实时确认制度设计的漏洞。
在国内,帮助AI控制用户计算机整体的工具"OpenClaw"曾因安全担忧被NAVER和Kakao屏蔽。每当出现新形态的AI,都要从放进哪一格开始重新掂量。
比没有规则更糟的,是有规则却不知道适用到哪里的状态。围绕一个整理病历的程序,医院实务人员要问法务组,法务组再问主管部门,花掉的这些时间有多久,患者所面对的诊室的变化就迟到多久。重新划定界线的工作进行得有多快,将决定这部法律是成为信任的基础,还是成为推迟决定的理由。
