谷歌OpenAI等三巨头拟联手组建AI安全自律组织

作者:作者:清源 发布时间:2026-09-25 04:14:31 浏览:9
关键字:
谷歌、OpenAI、Anthropic正推进成立AI安全标准自律组织SAFA,计划年底或明年初启动,将自愿承诺转化为实践标准并引入第三方测试。

据The Information报道,谷歌、OpenAI和Anthropic正自行推进成立AI安全标准机构,希望在没有政府监督的情况下,于今年年底或明年年初启动该组织,暂定名为Standards Authority for Frontier AI(SAFA)。

SAFA定位为面向前沿模型开发企业的行业自律组织,核心职能包括支持第三方机构在模型投入使用前进行测试,并制定AI开发商报告安全与安保事件的方式,同时把各实验室此前自愿作出的承诺转化为具体实践标准。

工作组成员还在讨论SAFA是否应直接负责模型的安全与能力测试。目前此类测试由美国商务部人工智能标准与创新中心承担,部分成员担心该中心资源不足,难以对前沿模型进行充分测试,因此主张由SAFA在其基础上增加其他测试和评估项目,但双方职能是否重叠仍不明确。

在闭门商讨启动方案的同时,三家公司高管也在公开呼吁建立统一的安全标准,并推动更进一步的国际协调。不过,行业之外究竟由哪些政府机构牵头制定这些标准,目前仍不明确。

阅读原文

本文由融业云AI采集并编辑,仅供学习使用!

本文来自ithome.com,作者清源

有问题,请联系客服!http://www.rongyeyun.com/kefu/