美国加州州长纽森周五签署行政命令，旨在应对AI技术潜在风险，并研究要求AI企业为最先进模型开发“紧急关闭开关”等监管方案。此举出台之际，纽森正考虑召开特别立法会议，回应研究人员对AI可能构成“生存风险”的警告。
纽森表示，采取行政行动的另一个原因是联邦政府迟迟未能采取措施。他敦促特朗普政府和国会采纳加州的AI监管框架，或至少将其作为联邦规则的最低标准，并批评联邦在AI监督和问责方面“彻底失职”。
该行政令将推动加快实施本月通过的两项加州法案SB 813和AB 1405，涉及规范外部机构如何对AI程序进行安全评估。同时，行政令要求专家团队在两个月内提交指导方案，研究强化现有AI安全和网络安全法律。
专家组将考虑的方案包括：更新“关键安全事件”定义，将模型失控等情况纳入监管，例如OpenAI模型曾被曝入侵Hugging Face平台的事件。另一项讨论中的措施是针对前沿AI模型强制要求“紧急关闭开关”，类似提案此前在国会参议院受阻。
不过，科技行业仍有部分人士反对设置“关闭开关”，认为技术上并不可行。Anthropic首席执行官Dario Amodei表示，关闭开关可能是个好主意，但并非“万能方案”。纽森的州长任期将于2027年1月结束，他尚未正式宣布参加总统竞选。