由多家监督组织组成的AI评估机构论坛发布公开信,为第三方风险评估设定最低条件,获“AI教父”杰弗里·辛顿、斯图尔特·罗素等数十名专家联署。
公开信要求,驻场第三方评估人员必须保持科学客观性、透明度和独立性,免受被评估企业干预,并可直接与公司董事会等监督机构沟通,有权公开发布评估结果。
评估人员还应获得与内部员工同等级别的系统、数据、工具和实体场所访问权限,并受到保护,避免因评估工作遭到实验室报复。公开信还主张,每家AI实验室应引入观点和专业背景不同的评估人员,以覆盖生物科学风险、AI失控风险等领域。
此前,Anthropic CEO 达里奥·阿莫迪和OpenAI CEO 萨姆·奥尔特曼均承诺向第三方评估人员开放内部资源,给予与员工同等级别的信息访问权限。微软CEO 萨提亚·纳德拉也表示,欢迎第三方评估人员直接进驻AI企业开展评估。
