智能体已经装上,账单留了下来

一周。这是遭到攻击后直到察觉为止流逝的时间。代替人自行处理多个步骤的程序,通常被称为AI智能体的那种软件被攻破,到这件事暴露出来,过去了那么多天。

很难看作是技术不足造成的事故。只是没有盯着看的眼睛。

同一周,电力不足的说法进入了立法讨论。运行智能体的运算要用电。电属于法律和设施的领域,不会像软件那样一夜之间增加。要降低成本的发布、要收紧安全的发布、要掌握控制权的发布在几天之内接连出现,这也读不成偶然。

划分下一轮竞争的尺子是承受能力。

智能体代替人登录并点击的工作。打开支付页面,发送邮件,翻查公司内部文件。不把权限给足就没有用处,给得充足,出事时蔓延的范围就会变宽。

能否在事后追溯智能体做了什么,动作出错时能否在几分钟内停下,承接增加的运算的电从哪里拉来。其中只要有一项是空的,引入就不会留作成果,而是变成负债。

有反驳说,收紧管控就会拖慢引入,拖慢了就会在竞争中被落下。实际上,在层层堆起审批程序的组织里,智能体容易止步于演示用的玩具。这种担心是有根据的。

不过把挽回所花的费用也算进去,得失就不一样了。追溯一周里经由敞开的通道来往过什么,这项工作比引入贵得多,如果客户信息夹杂着流了出去,就越过恢复,进入赔偿的领域。

把智能体为何那样动作留成人能读懂的记录,这项技术离完成还很远。多个智能体开始互相调用着工作,要指出在哪个环节出了偏差就难得多。电力更慢。发电设施和输电线不会像换掉一个模型那样被替换。

在一个画面上确认夜里自动化工具动过什么,给新的智能体加权限时逐项核对清单,这样的程序把一周缩短为一天。到法律和电力跟上来为止,还需要时间。