3小时49分钟就结束了。这是安全初创公司Causal Security的AI智能体“Cipher”找出控制电网和加速器的软件全部漏洞所用的时间记录。美国网络安全和基础设施安全局(CISA)就该软件的远程代码执行风险发出警告,包含补丁的7.0.11版本与公告在同一天发布。
如果上午9点启动,中午12点49分就能完成。AI智能体是指接到目标后自行连续执行多个步骤任务的程序,远程代码执行是指远处的攻击者能够在他人系统中运行自己命令的缺陷。如果不到半天就能完成搜索,缺陷清单增加的速度可能会快于人工审查的速度。
在查明计时从何时开始、到何时结束,以及人工提供了多少协助之前,3小时49分钟应被视为参考值。
11月2日,网页开发语言PHP的零日事件见诸报道。零日是指在修复补丁推出之前就已暴露的漏洞,防御方只能在没有修复版本可供下载的情况下坚持应对。目前没有依据将其与电网警告归为同一事件。
利用AI智能体的自动化渗透攻击也作为AI引发的安全问题案例被报道。这是查找漏洞的一方和攻破漏洞的一方都使用AI智能体的案例。
Cipher案例中显现的成果仅限于查找环节。即使推出7.0.11这样的补丁,在实际使用的地方完成安装之前,风险也不会减少。如果只有发现环节加快,人工审批和部署流程必然会凸显为最慢的环节。
监管也是课题。11月1日有报道称,“个人AI智能体”在美国国防部(五角大楼)安全网络中运行了两个月,是否获得批准、是否演变为入侵尚未查明。如果存在能够完成3小时49分钟作业的工具,两个月就是非常长的时间。
同一天还有报道称,金融监管部门正在制定应对AI智能体威胁的黑客防御战略。战略公布后,可以查看其中是否包含如何缩短从发现缺陷到应用补丁所需的时间、如何监管在金融业内部运行的智能体等内容。
安全负责人的一天也可能发生变化。上午9点上班后启动智能体,午饭前后缺陷清单就会出现在显示器上,下午则用于甄别哪些缺陷最需要紧急修复并予以批准。查找缺陷的工作越多地交给机器,人的工作时间就越多地用于修复和批准。
