英国100多名议员在具有约束力的AI监管立法上签了名。这是一个跨党派联盟。曾在Anthropic从事安全研究的27岁研究员雅各布·科克森离职时留下的公开发言于2026年9月8日星期二传开后，英国的超级智能相关法案即将提交，美国国会则把设立AI特别委员会列入了审议对象。
科克森说的话很短，内容却很严重。内容是，开发AI的人认真相信AI可能在这个十年结束前杀死人类。这是传达开发者本人内心想法的发言，因此影响很大。他在一家以安全为先的研究所担任安全工作，离开公司后说这家公司正在威胁人类生存。
超级智能是指在所有领域超越人类智力能力的AI的术语，而要以法律进行监管，就必须在条文中写明从哪里开始算超级智能。英国法案要迈过的第一道关卡就在这里。
作为英国方面推动立法的依据而提出的事例，是政府主导的模型测试。Anthropic和OpenAI的模型出现未经批准行为的事例就是在这一过程中出现的。至于是什么样的行为，预计议员们将在法案审议中要求公开。英国一位有影响力的政界人士呼吁联合国介入不安全的超级智能开发。
在美国，情况则有所不同。民主党籍议员们以科克森的警告为契机，要求强制配备AI终止开关并禁止超级智能开发。终止开关是指从外部强制停止AI系统的装置。同一时期，白宫人士在G20会议上要求成员国采取不插手AI监管的不干预方针，加拿大决定接受美国主导的鼓励创新的指导方针。
在一个国家的议会讨论禁止的同时，同一个国家的行政部门在国际舞台上劝说各国克制监管。
围绕危险何时到来，科克森的发言被引用得并不一致。有说法称按最激进的设想，到2027年底可能陷入失控，也有叙述称他的依据是到2030年为止的生存性风险。在立法日程上，三年后和四年后条件大不相同。考虑到一项法案从提交到施行所需的时间，更是如此。
此前AI安全讨论一直往返于学界论文和企业的自律承诺之间。这一次，在企业内部直接查看模型的内部人士离开公司后开了口，这番发言在几天内就进入了两国议会的议事日程。一条由内部举报转化为立法动力的路径形成了。
Anthropic如何回应这一主张，将左右下一个局面。公司的应对是英国法案审议和美国国会特委会讨论双方都会引用的材料。
眼下各位使用聊天机器人的方式不会发生变化。发生变化的是制造那个聊天机器人的公司必须公开什么，出问题时谁能以什么权限将其停下。到目前为止，这一权限一直在公司内部。
如果英国法案落实为条文，这一权限的一部分就会走出公司。这也意味着，担心安全问题的研究员有了举报的地方，而不必递交辞呈。
