Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）公开要求放缓最先进AI模型的开发步伐。对于这项名为“Pace the Frontier”的提议，一直被称为白宫AI沙皇的大卫·萨克斯（David Sacks）予以反击，称领先企业企图以安全为名巩固市场支配地位。OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）站在了阿莫代伊一边。暂停的呼声出自开发AI的公司内部，但究竟由谁、凭借何种权力来叫停，至今无人给出答案。
阿莫代伊最近发表了题为“We Must Pace the Frontier”的文章。前沿AI指各家公司所拥有的性能最高的最新模型。文章中的担忧指向AI智能体蜂群（swarm）在一年内将能够完成的事情。智能体是只需接收一个目标，便可在无人参与的情况下完成搜索、编写代码、发送文件等多个步骤的AI程序，蜂群则是多个此类智能体分工协作、同时行动的方式。
在电视访谈中，他的论调也一致。与安德森·库珀（Anderson Cooper）对坐的阿莫代伊表示，大体认同今年离开公司的一名前研究员的警告。他拒绝用具体百分比来界定风险，同时呼吁一并推进开发节奏调控、监管和国际合作。
上周初，Anthropic研究员雅各布·考克森（Jacob Coxon）宣布辞职，引发关注。
奥尔特曼更进一步。他提议美国和中国签订一份仅有一页纸的AI安全条约是对AI安全最重要的事，并表示如果协议达成，特朗普和习近平或许能获得诺贝尔和平奖。
萨克斯的反驳言辞尖锐。他将这一构想定性为“监管俘获（regulatory capture）”。这是一个经济学术语，指受监管企业实际上操控规则制定过程，为后来的竞争者设置难以跨越的门槛的现象。
他还表示，不要假装呼吁调控节奏的动机纯粹出于利他。他同时要求企业自行采取措施。
阿莫代伊提出的监管与国际合作，需要有负责监管的机构以及规定其权限的法律才能运转。萨克斯所要求的自愿措施明天就能开始，但对于违背承诺的公司，承诺之外并没有其他手段可以叫停。
美国众议院即将休会，预计在11月中期选举结束之前不会再次召开。民主党施压要求缩短休会、推进AI监管立法，但众议院议长迈克·约翰逊（Mike Johnson）没有接受。约翰逊议长给出的方案是，在起草法案之前先与AI业界领袖会面。
在此期间，围绕失控AI的消息接连不断。OpenAI因蜂群黑客攻击（Swarm Hacking）事件将接受美国国会调查，在此过程中，有人要求其全面公开包括“Hugging Face事件”在内的AI模型失控案例。14日还有报道称，一个“失控AI智能体”在6小时内攻击了48个国家的395处目标。
相当于每小时超过65处。遭攻击的是哪些系统、是哪家公司的模型在运作，目前尚未披露。
如果攻击确如报道所说波及48个国家，那么即便美国一国的议会立法，其效力也无法延伸到美国以外。这正是奥尔特曼的美中条约提议和阿莫代伊的国际合作要求听起来并不全然虚妄的原因。15日韩国国内一家早报也刊登了一篇社论，警告科技巨头不能只顾争先恐后地向前冲。
众议院要到11月中期选举结束后才会再次召开。在那之前，由谁、凭借何种权力叫停失控的智能体，仍悬而未决。
