金融监管部门怀疑AI智能体是连环黑客攻击的幕后推手

金融监管部门认为,近期接连攻破金融业的黑客攻击中使用了AI智能体,并已展开调查。当局怀疑,与人工逐行输入命令的攻击不同,程序可能自行一步步完成了入侵。截至11月1日,当局仍将此视为推测。目前尚无结论。

AI智能体是指接到一个目标后,把所需工作拆分成细小任务并依次完成的软件。它以大语言模型(LLM)作为大脑,也就是能听懂人类语言并生成文字的AI。阿尔特克斯(아르텍스)是代表性的例子。这一工具会寻找安全漏洞,简单说就是系统上的缝隙,规划从缝隙进入的路径,然后直接执行所需的命令。

阿尔特克斯的出发点是防御。

它是为让安全负责人预先试探自家系统、填补漏洞而开发的检测工具。同样的功能落入攻击者手中,用途就会反转。阿尔特克斯是否被用于此次金融业事件尚未得到确认。

智能体之所以棘手,在于它的执着。接到指令的智能体可以独自完成攻击受阻后更换方法再次尝试的过程。金融公司的防御则按照人员查看警报、争取预算、更换设备的顺序推进。要经过审批和工作时间的应对方式,很难跟上不停变换手法的对手。

智能体在此次攻击中介入到何种程度,要等调查结束才能查明,有关官员表示事故调查需要很长时间。在此之前,金融公司只能面对一个面目模糊的对手来设计防御。

当局要求金融业制定应对黑客攻击的安全改善计划,并将于下周召开检查会议。保险业也已着手加强安全。各业别的计划中,能在较少人工介入的情况下捕捉异常迹象的自动监控占多大比重,将成为第一道考验。

客户看到的应用程序界面与昨天几乎相同。即便在上班路上按下转账按钮的几秒钟里,账户背后攻击的机器与防守的机器也在相互试探。通过银行应用程序转出的钱,每一笔都要经过这场较量才能到达对方账户。