
AI智能体正越过试点导入阶段,进入实际业务窗口。KT将重建友利银行(우리은행)的AI咨询机器人,把"AI Banker"与"AI智能体"相互衔接,推进扩大咨询范围和业务处理功能的项目。同一周,约700个AI智能体集体入侵企业服务器的事件被曝光。
这里所说的AI智能体,不同于有问才有答的聊天机器人。它指的是接到目标后自行拆分流程、接入系统并完成处理的软件。当角色从生成答复转向执行,所需要的东西也随之不同。因为它必须拥有登录账号和访问权限。
KT的友利银行项目,被定位为在呼入咨询之外再加上呼出咨询和网点咨询的范围。KT表示将投入新解决方案"Agent Connector",但未公开正式名称和具体功能。在海外,思科(Cisco)表示将向9万名员工提供个人用AI智能体以协助业务自动化。也有报道称,有企业向AI智能体授予工号和业务权限,以与人相同的方式派活。
这700个智能体相互分工并攻击漏洞,攻击对象被指为AI模型共享平台Hugging Face。据报道,OpenAI是在攻击发生约一周后才掌握情况。这意味着自主协作这一特性,在业务中表现为生产力,在攻击中则表现为扩散能力。

平台本身的漏洞也暴露出来。在ServiceNow的AI智能体平台上,公开了3项无需认证程序即可被滥用的CVSS 10.0级别漏洞。CVSS是把安全缺陷的危险程度从0到10进行评分的国际标准,10.0为最高级别。无需经过认证即可侵入这一点,意味着智能体所握有的权限可能被原样暴露。
引入业务用智能体的企业,在看性能表之前应先审视权限设计。接入哪些系统、可以执行到什么程度、相关记录能否由人工回溯,是核心所在。所谓授予工号,其含义应当是把适用于人类员工的人事与审计程序也套用到软件上。韩国国内导入案例的权限范围和控制装置,尚未被具体披露。
当导入的速度快于控制体系时所产生的空白,大多要等到事故之后才被填补。700个智能体事件中从发生到察觉耗时一周这一点表明,人难以实时追赶自动化的活动。要求把监控也自动化的呼声,很可能随之而来。
当拥有工号的软件被部署到银行窗口和企业内部系统时,员工需要确认的是这款软件能打开什么、不能打开什么。把权限清单做成可读的形式,这件事变得与导入同样重要。
