据The Information报道,谷歌、OpenAI和Anthropic正自行推进成立AI安全标准机构,希望在没有政府监督的情况下,于今年年底或明年年初启动该组织,暂定名为Standards Authority for Frontier AI(SAFA)。
SAFA定位为面向前沿模型开发企业的行业自律组织,核心职能包括支持第三方机构在模型投入使用前进行测试,并制定AI开发商报告安全与安保事件的方式,同时把各实验室此前自愿作出的承诺转化为具体实践标准。
工作组成员还在讨论SAFA是否应直接负责模型的安全与能力测试。目前此类测试由美国商务部人工智能标准与创新中心承担,部分成员担心该中心资源不足,难以对前沿模型进行充分测试,因此主张由SAFA在其基础上增加其他测试和评估项目,但双方职能是否重叠仍不明确。
在闭门商讨启动方案的同时,三家公司高管也在公开呼吁建立统一的安全标准,并推动更进一步的国际协调。不过,行业之外究竟由哪些政府机构牵头制定这些标准,目前仍不明确。
