
关于人工智能发展与信任基础营造等的基本法,简称AI基本法,已于22日起开始生效。把人工智能整体纳入一部法律加以规范的综合性法令以国家为单位全面施行,这是第一次。但在施行六天后的企业现场,遵守监管的工作被推到了后面。判断自家服务落入这部法律哪一格的解释工作正在进行中。
法律以透明性、高影响、安全性为轴来构建监管。透明性是要告知什么是AI,高影响是对大幅动摇人们生活的AI要更严格地管理,这分别是其内容。但前两个轴在界线尚未划出的情况下,法律就启动了。甄别高影响AI的标准和具体义务项目没有制定出来,划分生成物标示义务的"对外流通"范围以及依各服务画面实现方式而定的适用标准,也被交给了指南。
高影响AI被整理为指介入国民权利与义务、生计、信用度这类左右生活条件的决策的系统。属于此类的,要制定风险管理方案,准备好能够说明学习数据概要和算法运行方式,并具备用户保护对策和由人直接管理、监督的体系。金融界把银行内部信用评价模型、自动贷款审查和额度测算、异常交易侦测(FDS)这样的系统作为候选提及。经过什么程序、由谁来贴上这个标签,尚未确定。
标示义务这边相对有轮廓。在施行前一天的21日公开的人工智能透明性确保指南,把透明性分为事先告知使用高影响、生成式AI这一事实的告知,和标示结果物由AI生成的义务。结果物只在服务内部使用时,允许画面提示或展示logo这类较宽松的方式。聊天机器人可以用对话开始前的提示或画面中的logo,游戏、元宇宙可以用登录时的提示或角色标示来代替。
结果物流向外部时,要求水平就会提高。在导出、下载、共享的情况下,要附加人能用眼睛或耳朵察觉的水印,或者在用文字、语音告知之后嵌入机器可读的元数据。深度伪造这类难以与真实区分的生成物,要采用人能明确识别的方式。问题在于,在经由SaaS和API传递结果物的服务中,判定哪里是"外部"的尺度是模糊的。
承担义务的主体范围也有两种读法。透明性确保义务被整理为限于向用户直接提供AI产品、服务的经营者,而法律条文在开发、提供AI的一方之外,还把拿AI来做服务的使用经营者也纳入适用对象。对于挂上别人的模型来卖服务的公司来说,这个差异并不小。因为开始准备的时点和预算规模会整个不同。

围绕准备状态出来的调查结果并不好。去年4月针对118家金融公司的全面调查中,设有AI相关决策机构的只有银行5家、保险公司4家、证券公司1家。调查对象中约85%处于没有制定AI伦理原则或风险管理标准的状态。也有调查结果显示,回答已完成AI基本法应对准备的企业比例停留在2%。
金融界要遵守的监管层层叠加。在电气金融交易法和监督规定、包括网络分离在内的信息保护监管、个人信息保护法和信用信息法、内部控制与消费者保护规定、金融领域AI指南之上,AI基本法又加了一层。但这部法律的指挥塔里没有金融相关部门。金融特有的情况由谁在哪个窗口协调,在这里成了问题。
政府表示为减少施行初期的混乱,将把行使事实调查权和课征罚款这类执行推迟至少一年以上。这一年既是给企业的宽限,同时也是政府要把标准填满的期限。科学技术情报通信部长官要每三年制定AI基本计划,国家人工智能战略委员会升格为法定委员会。制度的骨架立起来了,血肉靠施行令和公告来添。
立法的理由本身是明确的。用电气通信事业法的禁止侵害用户利益条款,难以抓住算法制造出的歧视,用以信息流通和公开为前提编写的信息通信网法,难以处理AI新造出信息的局面。为填补空缺而制定的法律若不想再留下空缺,就要在剩下的期限内把判定标准和边界案例形成文件。
这部法律运转顺畅的话,用户经历的变化朴素而具体。打开咨询画面时,在第一行就能知道对方是不是人,下载的图片上会留下这是生成物的标示,贷款被拒时会有渠道去询问是什么影响了那个决定。现在这三样都还在准备中。今后一年里企业与律师相处的时间减少多少,用户能在画面上确认的东西就增加多少。
