据路透社援引Politico报道，Anthropic代表已私下向国会议员游说一份由其主导起草的AI安全法案，试图为联邦政府干预前沿AI模型设定极高门槛。
法案规定，政府只有在AI模型面临可预见的、迫在眉睫的风险时方可介入，即可能造成超过10亿美元损失，或导致50人以上死亡或重伤。触发条件仅限于三种情形：模型被用于生物武器研制或扩散、模型逃脱开发者控制，或引发网络攻击。这意味着绝大多数情形下，AI模型的开发与部署将不受政府干预。
法案设计了一套以独立评估机构为核心的监督机制。评估机构须在商务部登记注册，定期对实验室及前沿模型进行评估。实验室可向评估机构付费，但报酬不得与评估结论挂钩；一旦判定存在“迫在眉睫的列举风险”，须在72小时内向商务部报告。这一付费安排可能引发外界对评估独立性的质疑。
监管权力高度集中：商务部可在认定风险后向法院申请暂停模型运营，由哥伦比亚特区联邦地区法院作出最终裁决。法案明文禁止其他任何政府部门或官员暂停AI模型的开发、部署或内部使用，包括国防部、国家安全机构等均被排除在外。
Anthropic发言人表示，法案内容源自其今年早些时候发布的“先进AI框架”，将赋予政府“阻止或遏制最强大模型危险部署的能力”。对投资者而言，若法案最终立法，前沿AI模型在美国市场将享有较高程度的运营确定性。