不妨设想一下在医院走廊一角演示影像判读辅助程序的五人团队。算法能运行,临床医生也表现出关注。可是要进入下一阶段,就需要说明材料、风险管理记录、数据来源梳理和事后监测计划。这个团队里能做这些事的有几个人。
韩国国内的AI规范从法律下到施行令,再下到下位公告,形成了一整套体系。随着行政预告程序收尾,经营者要遵守什么,在条文上大体已经理清。在国际机构层面,帮助企业自行检查AI管理状况的尽职调查指南讨论也在持续。规范化为文件的阶段已经过去,现在剩下的是谁来实际履行这些文件。
与监管的强度同样重要的是它的分布。容易被划为高风险的领域,是医疗、诊断、健康管理这类直接接触人体的领域。而投身该领域的韩国国内经营者中,相当一部分是人员数十名规模的初期企业。法律要求的安全管理体系,对大企业的合规部门来说只是一行业务,对这些企业却成了要与产品开发相交换的选择。
因此,如果不设计由谁以何种方式承担安全监管的成本,韩国国内的医疗AI就会朝着筛掉小公司而非筛掉危险服务的方向收拢。
反驳意见明确而有力。医疗是失败的代价由患者承担的领域,以规模小为由让其少接受验证是危险的。对此我同意。
这并不是说应当放宽。而是说,要求同样的标准,却让每家企业各自从头去搭建满足该标准所需的实务负担,这样的设计有问题。
标准文书格式、公用验证数据集、代为处理监管应对的共同基础设施,能在不降低安全的前提下只降低成本。如果临床验证所用的数据必须逐家医院重新签约获取的局面持续下去,最终只有握有医院网络的一方能存活。划分市场的标准从安全性移向筹措能力,这不是监管所要的结果。
制度已经完成这句话,常常被读作已经结束。然而规范整理为条文的时点,反倒是开始观察履行成本的时候。公告之后韩国国内医疗AI企业的许可申请件数如何变动,初期企业的新进入是否减少,将成为这一设计的成绩单。那些统计要到几个季度之后才会成形。
对患者来说,这一讨论并不抽象。判读辅助程序是只装在大医院,还是也能进入地方中小医院的诊室,分界点就在这里。当守护安全的成本由社会共同分担时,诊室屏幕上显示的一行辅助意见,在首尔的大型医院之外也能看到。
监管要守护的对象不是技术的清单。而是面对那块屏幕的人的一天。
