《关于人工智能发展与信赖基础构建等的基本法》(人工智能基本法)将于本月22日施行。这距离2024年12月26日国会全体会议通过、2025年1月21日公布,正好一年。由此,韩国成为全面施行人工智能监管法的全球首个国家。就法制建成的时间而言,欧盟更早,因此"首个"这一说法是就全面施行的时点而言,而非立法顺序。
该法的骨架是"高影响人工智能"这一概念。其做法是把对人的生命、身体安全或基本权利保护具有重大影响、或有可能带来危险的人工智能单独归为一类,课以更重的义务。适用领域划分为10种,能源、保健医疗、犯罪侦查、交通等包含在内。高影响人工智能经营者须在人工智能全生命周期建立识别、评估风险的管理体系,并将相关内容以文件形式留存。
加在一般经营者身上的义务有两点引人注目。在服务或产品中使用人工智能的经营者,须事先告知用户这一事实。生成式人工智能制作的语音、图像、视频须加注表明其为人工智能生成物的标识,除肉眼可见的水印外,还包括由机器读取的不可见标识。至于仅把人工智能用作辅助手段的成果物是否也属于标识对象,政府尚未给出正式解释。
问题在于划分何处为高影响的那条线。有意见指出,判定标准中含有"其他由总统令规定的领域",范围过于宽泛。科学技术信息通信部的方针是,不采用单一数值标准,而以逐项核对各领域细目的流程图来加以甄别。以自动驾驶汽车为例,有人介入的3级不列入高影响,从4级起才纳入,同一技术也会因自主性等级不同而适用不同强度的监管。
一线的准备状况跟不上法律定下的日程。创业联盟(Startup Alliance)向国内101家人工智能创业公司询问,回答"已制定人工智能基本法应对计划"的仅为2%。"不太了解内容,也没有做好准备"和"知道有这部法律,但应对不足"各占48.5%,这意味着98%的企业将在没有实质应对体系的情况下迎来施行日。政府决定在法律施行的同时,把罚款等直接监管至少推迟一年以上,并把力量放在指导上,背景正在于此。
放眼外部,监管的时钟反而在朝放慢的方向转动。欧盟最早制定了人工智能法,但作为核心的高风险人工智能规定的适用定在2026年8月,随着欧盟委员会推出包含放宽监管方案的"数字简化方案",也有推迟至2027年底的预测。美国没有联邦层面的统一立法,而是各州的应对不断积累。50个州中,除阿拉斯加州和俄亥俄州外的48个州设有人工智能相关州法,连罚则规定都已备齐的有13个州。
州法的着眼点与其说是扩散到整个产业,不如说集中在实际出现损害的环节。深度伪造监管最多,其次是聊天机器人6个州、医疗相关人工智能10个州、公共机构使用人工智能13个州。阿肯色州把淫秽深度伪造的制作、传播定为刑事处罚对象,加利福尼亚州规定用户提及自杀时聊天机器人经营者有义务作出适当应对。而特朗普总统去年12月签署了阻断州一级人工智能监管的行政命令,州与联邦正在朝相反方向移动。
决定韩国法律实效性的另一个变量是国境。人工智能基本法规定,符合一定条件的海外人工智能企业须指定国内代理人,但哪些企业属于此列、未指定时如何强制,至今仍无从把握。如果只有国内企业老老实实堆积文件,而海外服务照旧被使用,监管就只会撼动市场份额。施行令立法预告结束的去年12月22日之前,产业界和公民团体两边都指出定义模糊,也是同样的脉络。
这部法律留下的装置不止于监管。研究、评估人工智能风险的人工智能安全研究所以该法为依据于去年11月开门,科技信通部长官须每三年制定人工智能基本计划。由总统担任委员长的国家人工智能委员会中,官民共同制定战略的框架也已备好。朝野接连提出修正案,已施行的法律原样固定下来的可能性也不大。
从用户角度看,22日之后发生的变化不大。打开咨询窗口时会先告知对方是人还是人工智能,刷到的视频上会加注由人工智能制作的标识,大致如此。那一点小小的告知,在通向录用结果、贷款审查、急诊室判读的环节是否也起作用,要等一年宽限期过后、罚款实际开始征收时才会显现。这个在全世界最先合上开关的国家,真正的成绩单要从流程图公开、首批判定案例累积的那一刻起打分。
