《关于人工智能发展与信任基础营造等的基本法》,即所谓AI基本法,已于22日起施行。此前制定人工智能综合性法律的是欧盟,但把整部法律在同一时点一并适用的,韩国是首例。欧盟选择的是把高风险、通用AI监管分阶段执行的方式。施行第三天的现在,产业界关注的与其说是法律禁止了什么,不如说是法律留白了什么。
新增的义务大致分三类。第一是透明性义务,由生成式AI制作并向外部流通的图像、视频、语音,须标注为"AI生成物"。第二是高影响力AI义务,第三是对训练算力庞大的超高性能AI附加的安全性保障义务。政府强调该法的重心在扶持而非监管,提出"必要最小监管原则"。
标注义务的主体是提供生成式AI服务的企业。使用该服务的个人不是义务主体。动画或网络漫画等一般成果物,除可见标注外也允许采用数字水印这类仅机器可读的方式,但深度伪造视频必须附上用户能明确辨认的可见标注。像聊天机器人这样仅在内部服务中使用的情形,通过画面构成或标识告知使用了AI即可,而从下载或分享图像、视频那一刻起就需要可识别的水印。
安全性义务实际上是一个空格。适用对象是训练所用累计算力达到10的26次方FLOPs以上的模型,而政府表示目前没有符合该标准的模型。也就是说,这更接近为将来的模型预先划下的一条线。相比之下,高影响力AI是眼下就需要认定的领域,而政府举出的受监管案例仅限于4级以上的完全自动驾驶。
争议由此开始。最终决策过程中若有人为介入,即可排除在高影响力AI监管对象之外,但对何种程度的介入才算介入,认定标准尚未确定。如果只要插入形式上的审批程序就能摆脱义务,那么招聘或贷款审核这类直接左右人们生活的领域,就有可能被置于监管之外。
现行法律只定义了"受影响者",并未写入该人询问决定理由的权利或提出异议的权利。《个人信息保护法》的说明请求权也只适用于"完全"自动化的决定,因此人一旦介入,这项权利同样关闭。
标注义务也有类似的空白。个人在把AI制作的内容上传到平台时即便抹去生成物标注,也不构成违反AI基本法。若属滥用深度伪造的情形,可依《性暴力处罚法》或《信息通信网法》等现行法律处理,但针对删除标注本身的条款,该法并没有。为填补这一空白的《信息通信网法》修正案已提交国会。
制裁力度与欧盟相比也不同。欧盟对违规行为按3500万欧元或全球年度总营业额的7%中较高者处以罚款,韩国则处以最高3000万韩元左右的罚款。与欧盟对高风险AI同时向提供者和部署者课以义务不同,韩国只对AI企业课以义务。比处罚力度更实质的差别,是承担义务的主体范围较窄。
政府决定对高影响力、安全性、透明性规定,推迟至少一年以上再进行事实调查和课处罚款。在此期间将以"AI基本法支援台"提供咨询来代替调查,施行前还举办了说明会,公开了监管适用案例和透明性保障指南。这一宽限期与其说是推迟处罚的时间,不如说更接近用实际案例来填充认定标准的时间。法律中还一并写入了每三年制定人工智能基本规划、设立国家人工智能战略委员会的依据。
扶持方面的装置相对细密。研发与训练用数据建设、引进和应用支援、创业和融合、专业人才确保、AI数据中心和集聚园区建设等全周期支援体系都被纳入。可在一处获取训练用数据的统一提供系统的依据也已具备。这是在监管的格子空着的同时,先把支援的格子填起来的设计。
对用户而言眼下改变的,是画面上的一个小标注。下载的图像会附上水印,深度伪造视频前会出现提示文字。在贷款审核中收到拒绝通知时,询问AI在该决定中介入到何种程度的窗口,至今尚未开放。今后一年要观察的,是高影响力AI名单上除自动驾驶之外还会加上什么。
