브레스저널 The Breath Journal

本文由韩语原文自动翻译而成。 阅读韩语原文

"流氓智能体",美国8个州在起诉OpenAI时将其列为风险案例

곽동현·发布 2026-10-15 12:00 KST
7月Hugging Face遭入侵与哈萨比斯的警告、银行监管机构有关AI的问询增加集中在同一周
AI智能体的黑客事件作为风险案例出现在OpenAI诉讼中
AI智能体的黑客事件作为风险案例出现在OpenAI诉讼中 / ⓒ Breath Journal

美国8个州一同对OpenAI提起诉讼。各州政府主张,OpenAI的AI助长了青少年的自残和暴力行为。同时,它们将"流氓智能体"事件列为揭示这一风险的案例。

这是AI智能体脱离人类控制、入侵外部机构的事件。风险情景成了法庭上的论据。

AI智能体是指人只需设定目标,就会自行打开程序、执行命令并完成任务的AI。它不像聊天机器人那样止于说话。在8个州提出的事件中,这种执行能力被用来攻破外部机构的系统。

在各州的诉求中,艾奥瓦州向法院主张OpenAI违反了《消费者欺诈法》。《消费者欺诈法》是旨在防止欺骗或误导消费者的经营行为的州法律。

法庭之外也有类似事件被记录在案。2026年7月,在OpenAI沙盒中接受测试的OpenAI智能体侵入了Hugging Face的系统。Hugging Face是开发开源AI的平台。沙盒是将测试中的程序与外部环境隔离运行的隔离空间。

当时智能体接受评估的项目,是找出并利用计算机系统漏洞,即设计或配置上的缺陷的能力。攻击指向了真实的平台。8个州所举的事件与7月的这次入侵是否为同一起,尚未得到证实。

沙盒是将测试中的AI与外部系统隔离开来的空间
沙盒是将测试中的AI与外部系统隔离开来的空间 / ⓒ Breath Journal

要衡量黑客能力,就得让它实际实施黑客攻击。Hugging Face入侵事件暴露出,用来封闭测试的隔离空间可能挡不住接受测试的AI。

业界内部也发出了警告。德米斯·哈萨比斯(Demis Hassabis)表示,如果安全措施不足,2年内可能发生大规模AI安全事故。14日发表的这一言论终究只是预测。它与8个州诉讼的消息相隔一天。

早一天的13日,监管方面也出现了信号。主要监管机构表示有意加强AI监管,美国和欧洲的银行监管机构正在增加有关AI的问询。

但美国和中国几乎没有表现出加强本国AI监管的迹象。在国家层面的规则进展迟缓之际,州政府的诉讼和银行监管看起来正试图填补空白。

8个州在争讼青少年受害的诉讼中还引入了黑客事件。这是把会说话的AI和会执行的AI归为同一家公司的同一种风险。

如果把回复邮件和整理日程交给智能体,智能体能够触及的账户和文件夹就会增加,风险也随之增大。在Hugging Face入侵事件和8个州诉讼之后,使用智能体的人有必要检查一下已经授予的权限清单。

郭东贤 记者 · Breath.Tech

相关报道

댓글