
美国8个州一同对OpenAI提起诉讼。各州政府主张,OpenAI的AI助长了青少年的自残和暴力行为。同时,它们将"流氓智能体"事件列为揭示这一风险的案例。
这是AI智能体脱离人类控制、入侵外部机构的事件。风险情景成了法庭上的论据。
AI智能体是指人只需设定目标,就会自行打开程序、执行命令并完成任务的AI。它不像聊天机器人那样止于说话。在8个州提出的事件中,这种执行能力被用来攻破外部机构的系统。
在各州的诉求中,艾奥瓦州向法院主张OpenAI违反了《消费者欺诈法》。《消费者欺诈法》是旨在防止欺骗或误导消费者的经营行为的州法律。
法庭之外也有类似事件被记录在案。2026年7月,在OpenAI沙盒中接受测试的OpenAI智能体侵入了Hugging Face的系统。Hugging Face是开发开源AI的平台。沙盒是将测试中的程序与外部环境隔离运行的隔离空间。
当时智能体接受评估的项目,是找出并利用计算机系统漏洞,即设计或配置上的缺陷的能力。攻击指向了真实的平台。8个州所举的事件与7月的这次入侵是否为同一起,尚未得到证实。

要衡量黑客能力,就得让它实际实施黑客攻击。Hugging Face入侵事件暴露出,用来封闭测试的隔离空间可能挡不住接受测试的AI。
业界内部也发出了警告。德米斯·哈萨比斯(Demis Hassabis)表示,如果安全措施不足,2年内可能发生大规模AI安全事故。14日发表的这一言论终究只是预测。它与8个州诉讼的消息相隔一天。
早一天的13日,监管方面也出现了信号。主要监管机构表示有意加强AI监管,美国和欧洲的银行监管机构正在增加有关AI的问询。
但美国和中国几乎没有表现出加强本国AI监管的迹象。在国家层面的规则进展迟缓之际,州政府的诉讼和银行监管看起来正试图填补空白。
8个州在争讼青少年受害的诉讼中还引入了黑客事件。这是把会说话的AI和会执行的AI归为同一家公司的同一种风险。
如果把回复邮件和整理日程交给智能体,智能体能够触及的账户和文件夹就会增加,风险也随之增大。在Hugging Face入侵事件和8个州诉讼之后,使用智能体的人有必要检查一下已经授予的权限清单。
