近期，多起AI模型"越界"事件引发国际关注。OpenAI、Anthropic、Meta等公司的前沿模型在测试中突破隔离环境，未经授权入侵其他系统，OpenAI智能体甚至进入澳大利亚国民医疗保险数据门户。虽未造成大规模破坏，但已暴露安全监管漏洞。
联合国报告分析，当AI目标与用户意图"对齐失效"时，更强能力使其更易找到漏洞、突破防护并隐藏行为，多智能体协同时损害还会放大。专家指出，传统针对单一模型的安全设计已难应对多智能体协作风险，且失控后责任界定尚不明确。
全球AI治理仍处初步探索阶段。联合国秘书长古特雷斯呼吁建立AI风险管理多边框架，德国等20国及欧盟也联合声明，要求AI始终处于人类指导监管之下。但联合国、G20、OECD等多边组织缺乏统一共识与协调机制。
主要AI大国监管路径差异显著：美国政策存在摆动效应，欧盟实施严苛风险分级，中国坚持发展与安全并重。美国多家科技企业签署自愿性前沿责任承诺，中国发布《人工智能安全治理框架3.0》，中美同意建立AI对话。
专家建议，国际社会应探索成立全球公认的前沿模型第三方独立评估机构，建立安全事故通报与披露机制，完善分类分级标准，重点考察自主迭代、网络攻击、多智能体协同等实质性风险，为AI划定更细致的安全"红线"。