AI教父辛顿联署公开信:第三方评估须独立受保护

作者:作者:清源 发布时间:2026-09-19 06:04:09 浏览:15
关键字:
AI评估机构论坛发布公开信,辛顿等数十名专家联署,要求AI实验室保障第三方评估人员的独立性、透明度与安全,免受企业干预。

由多家监督组织组成的AI评估机构论坛发布公开信,为第三方风险评估设定最低条件,获“AI教父”杰弗里·辛顿、斯图尔特·罗素等数十名专家联署。

公开信要求,驻场第三方评估人员必须保持科学客观性、透明度和独立性,免受被评估企业干预,并可直接与公司董事会等监督机构沟通,有权公开发布评估结果。

评估人员还应获得与内部员工同等级别的系统、数据、工具和实体场所访问权限,并受到保护,避免因评估工作遭到实验室报复。公开信还主张,每家AI实验室应引入观点和专业背景不同的评估人员,以覆盖生物科学风险、AI失控风险等领域。

此前,Anthropic CEO 达里奥·阿莫迪和OpenAI CEO 萨姆·奥尔特曼均承诺向第三方评估人员开放内部资源,给予与员工同等级别的信息访问权限。微软CEO 萨提亚·纳德拉也表示,欢迎第三方评估人员直接进驻AI企业开展评估。

阅读原文

本文由融业云AI采集并编辑,仅供学习使用!

本文来自ithome.com,作者清源

有问题,请联系客服!http://www.rongyeyun.com/kefu/