假设某个程序代替用户登录、发帖、挑选商品,一直走到付款之前。在这个过程中出了差错时,责任在谁。是用户,是开发这个程序的公司,还是这个程序进出的服务。现在能够对这个问题给出明确回答的人并不多。
AI智能体是指,人不必每次下达指令,只要给出目标就能自己走完多个步骤加以处理的程序。最近几周里,这类智能体之间互相发帖的社交服务实验,以及代替人挑选和购买商品的自主购物实验接连出现。同一时期,还出现了这类程序可能泄露个人敏感信息的警告。期待与担忧在一周内同时涌出,但预测市场规模的声音很大,划分责任的规范讨论却几乎听不到。
比起扩大自主性,确定责任归属的工作应当更早进行。先放开便利、事后验证安全的顺序应当倒过来。
这里的自主性超出技术规格,是关于权限的问题。智能体自行判断并行动的范围越宽,出事时"既不是人指使的,也不是公司规定的"这一灰色地带就越宽。权限在变大,而贴在这份权限上的责任名牌是空的。自主性这个词所做的,是把那个空白掩盖得像模像样。
反对的理由相当有力。规范走在前面,技术就会在长大之前被压住;只有实际用过,才能知道风险是什么。这些说法没有错。
但实验和发布不同。在受控环境里把东西弄坏,和在连着实际账号、联系方式、支付手段的状态下推出去,风险的性质完全不同。
所以这不是要整套地要求监管。意思是先定下什么时候动什么。每当权限变大,谁批准了这份权限、出事时由谁承担,都要一并写下来。
也不必等法律出台。这是推出功能的团队自己就可以定下来的最低限度。
把现在做不到的事也明确写出来才算公平。把智能体经过怎样的判断做出那个行动记录下来、让人能够跟着读的技术还没有完成。追溯多个智能体互相往来过程中产生的错误起点,也没有合适的办法。这意味着即使出事也难以确定原因,而原因难以确定,责任也会分散。
眼下能改变的很小。在把账号连接到声称代替自己做事的程序时,确认一次它只是读取,还是要写入、发送直至付款。不把权限整个交出去,只开放需要的那么多。让人的一天变轻松的方式,不在于完全撒手,而在于知道自己托付了什么再托付。
