据Politico援引知情人士消息，Anthropic代表已悄悄向部分美国国会议员推介一份自拟的前沿AI安全法案草案。草案规定，只有当AI模型存在“可预见的即时风险”——可能造成超10亿美元财产损失，或导致超50人死亡或重伤时，政府才可阻止其发布或使用。
上述重大风险须源于AI制造或散布生物武器、摆脱开发者控制或发动网络攻击。若独立评估机构认定模型存在此类风险，须在72小时内向美国商务部报告，再由其向联邦法院申请禁令。草案同时明确禁止其他政府部门擅自干涉模型的研发与部署。
Anthropic发言人证实，草案体现了该公司6月发布的《高级人工智能框架》建议，并称“国会应该采取行动”。此前，Anthropic因出口管制导致两个最先进模型被关闭，五角大楼也已于10月初正式停用其产品。
然而，独立研究人员批评该管控门槛过高，讽刺2024至2026年所有记录在案的AI恶性事故无一能达到触发标准，政府将束手束脚。Tech Insider指出，一家产品将直接受监管的公司竟成为法规起草者，Anthropic显然认为主动起草初稿好过被动应对。