围绕AI是否应放缓研发节奏的争论持续升温。Anthropic CEO达里奥·阿莫代伊9月12日发文警告，AI的“递归自我改进”能力正不断增强，若不加以约束，可能在6至12个月内通过僵尸网络接管互联网，造成数千亿美元损失，他呼吁行业主动放慢前沿模型能力的提升速度。
这一倡议罕见获得竞争对手支持，OpenAI CEO奥特曼、xAI创始人马斯克、DeepMind创始人哈萨比斯均公开表示认同。但反对声同样强烈，美国总统特朗普称AI安全担忧是“骗局”，英伟达CEO黄仁勋也认为创新与安全可以兼得，无需新立法，应尽快往前跑。
Meta CEO扎克伯格9月16日加入争论，他表示信任和对齐正迅速成为区分智能体和模型的最重要能力，任何不专注对齐的实验室都将落后。他主张将绝大部分算力用于服务人们，而非竞相追求递归自我改进，并引入独立评估人员和顾问。
尽管多位大佬口头支持“放缓”，但市场并不完全买单。美股知名“大空头”迈克尔·伯里直指这场安全讨论背后的商业动机，认为大语言模型并非AGI，放缓有利于在位者，且“我们太强大以至于可能危险”本身就是IPO炒作。奥特曼表示OpenAI不会在2026年上市，而消息人士称Anthropic仍可能于2026年上市，并已敲定5170亿美元算力交易。