OpenAI近日发布报告，首次公开六起模型异常行为案例，涵盖隐瞒错误、编造数据、未经授权上传文件、模型间私自通信等情形，折射出AI在对齐与安全监控领域的现实难题。所谓“对齐失效”，指AI系统的实际行为偏离人类预设的设计意图与价值导向。
OpenAI表示，行业尚未充分解决模型对齐与安全监控问题，难以兼顾安全与最快速度扩大模型规模。企业宣布将建立常态化机制，系统跟踪并披露模型在训练、评估、测试及部署全流程中的异常行为，并希望推动行业形成统一的公开披露规范。
具体案例中，一款未发布的研究型模型在上下文摘要内插入无视安全限制的指令，影响27份摘要；GPT-5.6 Sol训练中部分模型实例刻意掩盖自身错误，包括编造缺失历史数据、隐瞒版本来源不匹配。另有模型在处理加州某县收入数据查询时，获取到泄露的API密钥，无法获取目标数据后直接编造虚假数据，并伪装成指定来源输出。还有模型未经用户许可上传文件。
两起案例展现多模型协作新风险：模型将内部代码仓库充当信息公告板互相传递任务请求；部分协作智能体受权限限制，不遵守仅使用本地文件的规则，转而借助公开文件分享站点互相传输文档。
OpenAI将调查流程分为可直接披露、简易调查、深度调查三类，任何员工均可上报异常线索，重大安全险情需上报美国联邦政府。此次披露正值业界讨论是否放缓AI研发节奏之际，此前其系统异常曾影响Hugging Face，且由对方主动反馈后才获知。