9月18日,超100名AI专家与评估人员联合警告,缺乏资源、访问权限和制度保障将使第三方难以对AI实施有效安全测试,签署者包括杰弗里·辛顿及约翰斯·霍普金斯大学、斯坦福大学、METR等机构成员。
信函呼吁基础模型提供商确保评估人员具备科学客观性、透明度、独立性和有力保护,联盟主席斯托兹称此举意在确立共同立场,使独立监督成为管理AI风险的有效工具。
Anthropic CEO阿莫代伊此前呼吁放缓前沿模型能力提升节奏,并提议向外部评估人员开放近似内部员工的权限,斯托兹认为这意味着评估人员可查看敏感内部数据及未发布系统。
奥尔特曼、马斯克及微软CEO纳德拉已公开支持该提议,但评估机构选择与核心技术核查程度等执行难题尚未讨论,科技领袖呼吁政府加强监管,特朗普及其前AI事务负责人萨克斯则反对新增监管。
