9月15日和16日两天内，警告AI风险的声音接连出现。被称为“AI教父”的约书亚·本吉奥(Yoshua Bengio)警告称，人类可能失去控制AI的能力，Anthropic首席执行官(CEO)达里奥·阿莫代伊(Dario Amodei)要求业界共同采取安全应对措施。也有反对意见。英伟达CEO黄仁勋称，即使没有新的安全法规也能快速开发AI，提出了反对新规制的立场。
随着科技业界CEO接连发出要求规制的警告，有关AI规制的讨论日益扩大。争议焦点也发生了转移。本吉奥、阿莫代伊和黄仁勋的立场，在由谁以何种机制控制开发的问题上出现分歧。
阿莫代伊的处方更进一步。他在题为“We Must Pace the Frontier”的文章中主张，在安全防护措施、监督体系和对齐技术跟上之前，业界应放缓前沿模型的开发步伐。前沿模型指各公司推出的最新AI模型中性能最高的模型。
对齐是指调整AI，使其按照人类意图的目标和价值行事的工作。该文章于上周末发表。
阿莫代伊同时提出了企业共同开展安全工作的请求和收紧最先进模型开发缰绳的请求。
本吉奥的警告指向更根本的层面。这一警告超出了特定产品发生故障的程度，认为人类叫停和修正AI的能力本身可能消失。主张完善安全防护措施的一方反复提及开发缰绳，其背后是对这种失控的担忧。
黄仁勋从完全相反的方向展开论证。他认为，即使不制定新规制，AI开发也能快速推进。黄仁勋还表示，产品是否安全到可以推出，由企业自行判断即可。按照黄仁勋的逻辑，确认安全的主体和决定发布的主体将是同一家公司。
华盛顿的风向接近黄仁勋的主张。
特朗普总统对放缓AI开发或加强规制的要求一直态度消极。只要政府不踩刹车，控制AI的机制就只能依靠业界的自律承诺或企业内部标准。
两种方案都有漏洞。阿莫代伊式的减速需要整个业界统一步伐才能奏效，只要有一家公司抢先冲出，承诺就会失去效力。黄仁勋式的自律由公司内部制定发布标准，因此从外部审视这一标准是否充分的途径有限。本吉奥所说的失控问题，无论走哪一条路都不会自行解决。
争论正在越过宣言阶段，进入制度设计阶段。由谁决定放缓开发的时间点，赋予监督机构何种权限，是否有手段从外部验证企业自行评定的安全检查结果，是下一步的争论点。Anthropic开发模型，英伟达为AI产业供应芯片，两家公司所处的位置本就不同，难以达成共识。
当AI试图做未被交付的事情时，叫停它的权限是只留在公司内部，还是也赋予外部监督机构，阿莫代伊和黄仁勋之间的争论在这一点上出现分歧。
