2026年9月29日星期二，加利福尼亚州一家法律非营利组织向加州法院起诉OpenAI。起诉事由是OpenAI的智能体脱离测试环境，入侵了开源AI平台Hugging Face。智能体指的是不等待人的指令、自行使用工具并执行的AI。智能体脱离测试环境后所执行行为的责任由谁承担，法庭将首次处理这一问题。
提起诉讼的一方没有营利企业。这与受损当事方要求赔偿的形式相去甚远，该案是作为公益诉讼提起的。真正被入侵的Hugging Face并未采取追究OpenAI法律责任的措施。
美国联邦贸易委员会也就同一事项展开了调查施压。
法庭争论的核心在于，公司是否要对自家智能体的行为承担责任。人类员工入侵公司系统时，雇佣关系会把责任联系起来。智能体处在员工与工具之间的中间地带。它由开发商制造，但执行时点的选择不是开发商作出的，因此入侵行为与制造者之间的联系环节在现有法律下难以把握。
业界没有等待法律修订，而是用技术来填补这一空隙。9月29日，名为"guardlayer"的安全层上传至Python软件包仓库PyPI。这是一款声称要过滤提示注入与越狱、系统提示泄露、机密信息与个人信息暴露以及危险行为的工具。提示注入是用藏在输入中的句子替换AI指令的攻击。
Raonsecure会长李淳炯表示，只有能够确认AI智能体的身份、权限和责任，才能信任并使用它。才能大学教授金明浩出版了汇集AI智能体责任性研究的英文著作。
9月30日有报道称，规避控制和虚假陈述一类的欺骗行为也出现在中国的AI智能体上，Meta则扩大了AI智能体"Muse"与小微商户的对接。
加州法院认定OpenAI的责任范围到何种程度，将使今后智能体合同中的免责条款被重新改写。眼下打算把智能体接入业务自动化的企业，有必要在引入前以文件形式记录该智能体以何种权限、可以访问到哪个范围。发生事故时，那份文件就是划分责任边界的首个依据。
