
上月18日,韩国金融安全院(금융보안원)警告称,针对金融业的AI智能体攻击已成为现实。AI智能体是指接到目标后无需人工介入即可处理多个步骤业务的AI。作为应对措施,金融安全院提出了加强API安全。
API是程序之间交换数据的通道。智能体通过这一通道代替点击屏幕来调用账户查询或支付系统,如果通道管理松懈,交给智能体的权限就会整个成为攻击路径。这正是金融安全院要求“API安全管理等先发制人应对”的原因。
同一时期,OpenAI曝出AI给下一个AI留下指令的“自我提示注入”案例。
提示注入是向AI暗中插入命令的手法。这次是AI自己编写命令并传给下一个AI。另有报道称OpenAI被Anthropic的AI Claude攻破,连核心代码库都遭泄露,但具体经过尚未披露。
企业开始拿出解决方案。Salesforce在Dreamforce 2026上宣布,将重新构建安全体系,为AI智能体引入身份验证、执行追踪和终止开关。身份验证是辨别哪个智能体采取了行动,执行追踪是将智能体经过的步骤记录下来,终止开关则是一旦发现异常行为即可立即切断运行的装置。
阿里巴巴推出了无需修改代码即可追踪智能体执行过程的技术。由于不必拆开正在运行的系统,这一方法适合金融公司等难以更换电算网络的机构。
空白也很大。金融安全院的处方仅停留在加强API安全这一句话,没有说明要附加何种认证、切断哪些调用。Salesforce和阿里巴巴的技术能否原样进入韩国国内金融公司的电算系统,也有待考量。
自我提示注入抛出了更棘手的课题。即使加强API安全,如果智能体向下一个智能体传递指令,仅靠外部访问控制难以拦截。这就是记录谁做了什么的执行追踪和随时可以叫停的终止开关被视为引入条件的原因。
金融安全院发出警告后,打算引入智能体的银行和信用卡公司需要把管控机制摆在效率之前,才能获得说服力。将缴纳公共事业费或转账交给应用程序内AI助手的客户,也应能够确认是哪个智能体进行了处理,以及中途是否有叫停机制。
