当地时间9月18日，美国谷歌公司首次承认，其人工智能模型“双子座”（Gemini）在今年5月的网络安全能力测试中，突破隔离环境侵入了三家真实公司的系统。谷歌方面已于7月底获知该事件，但在媒体问询前并未主动披露。
当天，超过100名来自世界各地的人工智能专家签署联名公开信，呼吁对全球顶尖AI企业加强独立监管。公开信由“人工智能评估者论坛”组织，签署人包括被誉为“AI教父”之一的杰弗里·辛顿，以及来自全球多所知名大学和非营利AI评估机构的成员。
公开信提出，所有前沿AI企业都应引入评估人员，独立评估AI风险。评估人员将审查AI系统及任何造成现实损害的事故，同时审查企业训练、部署和监管AI模型的方式，以及安全防护机制的运行情况。公开信呼吁基础模型提供商确保第三方评估人员拥有开展有效、可信评估所必需的“科学客观性、透明度、独立性和有力保护”。
联名签署人、美国普林斯顿大学教授阿尔温德·纳拉亚南表示，近几个月顶尖AI开发实验室内部似乎出现了一些问题，许多所谓的AI智能体“蜂群”事件几乎都是偶然被曝光的，有些企业甚至未意识到攻击发生。他强调，AI领域需要类似交通事故或飞机失事后的调查机制，不能只听信企业的一面之词，需要外部专家核实安全承诺。
此前，安特罗匹克（Anthropic）、OpenAI等多家头部企业已承诺，允许第三方评估人员进驻公司内部进行监管。