不妨设想有人代为作出决定的一天。挑选机票、更换资费套餐、预约医院,一句话就能办完。当那个代为决定的存在选错时,要在退款窗口报上姓名的人是谁。给每位国民免费配发一个AI智能体的承诺,不通过这个问题就无法成为政策。
智能体与聊天机器人不同。它不是说出答案就结束,而是代替用户点击、付款,直到完成申请的软件。普及政策瞄准的成果很明确。有多少国民拿到了这个工具。
然而在宣布免费供应的同一周,个人信息保护委员会指出,NAVER智能体在使用用户数据时,是否妥当提供了拒绝这一做法的选项存在问题。一边急于分发,另一边事后追究已分发之物应当遵守的最低条件。这是政策的时钟与规则的时钟对不上的信号。
这篇文章的主张只有一个。普及率不是成果而是前提,当务之急是用规则明确写下,智能体代为执行的决定和交易由谁来回答,在这个过程中往来的个人数据用户能追回到什么程度。这比分发工具更难,也更不显眼。
反对的逻辑并不轻。担忧在于,先制定规则会在技术长成之前就套上框架,而在这期间海外企业会拿走市场。实际上也不是没有过监管走在前面、结果只捆住国内企业的事例。先赶紧普及、规则随后跟上的说法,有相应的依据。
即便如此,智能体要另当别论。因为这个软件所做的事不止于显示信息,而是执行。错误的摘要用户可以过滤掉,但错误的付款和错误的合同同意,要挽回需要花钱和时间。把握有执行权限的工具分发给全体国民,属于日后修补代价高得多的那一类。
所需规则的轮廓并不复杂。智能体在没有用户确认的情况下可以做到哪种行为,发生损害时开发商、服务提供者、用户之间的责任如何划分,拒绝把对话和行为记录用于训练之后能否照常使用服务。以事后指出拒绝选项是否实际发挥作用的方式,已经晚了。
做不到的事也最好一并讲清楚。眼下的智能体无法自行察觉自己出了错,揣测用户的意图而导致离谱执行的情况并不少见。带着这些局限,分发仍将推进。那么不隐藏局限、不只宣传便利,是最起码的礼节。
明年这个时候决定这项政策成败的指标,不会是有多少人领到了智能体。用户是否知道,机票被错误付款时该往哪里打电话,当自己要求把对话记录从训练中排除时,是否有办法确认那个要求真的被落实。能回答这些的规则,应当在分发之前立好。
