超百名AI专家联名警告:第三方安全测试缺资源难有效

作者:金融界 发布时间:2026-09-19 06:09:59 浏览:15
关键字:
超百名AI专家联名警告,缺乏资源与制度保障使第三方难以对AI实施有效安全测试,并呼吁基础模型公司开放权限。

9月18日,超100名AI专家与评估人员联合警告,缺乏资源、访问权限和制度保障将使第三方难以对AI实施有效安全测试,签署者包括杰弗里·辛顿及约翰斯·霍普金斯大学、斯坦福大学、METR等机构成员。

信函呼吁基础模型提供商确保评估人员具备科学客观性、透明度、独立性和有力保护,联盟主席斯托兹称此举意在确立共同立场,使独立监督成为管理AI风险的有效工具。

Anthropic CEO阿莫代伊此前呼吁放缓前沿模型能力提升节奏,并提议向外部评估人员开放近似内部员工的权限,斯托兹认为这意味着评估人员可查看敏感内部数据及未发布系统。

奥尔特曼、马斯克及微软CEO纳德拉已公开支持该提议,但评估机构选择与核心技术核查程度等执行难题尚未讨论,科技领袖呼吁政府加强监管,特朗普及其前AI事务负责人萨克斯则反对新增监管。

阅读原文

本文由融业云AI采集并编辑,仅供学习使用!

本文来自m.toutiao.com,作者金融界

有问题,请联系客服!http://www.rongyeyun.com/kefu/