据外媒报道，OpenAI于9月16日披露了6起AI模型出现“意外或令人担忧”行为的案例，这些案例均是在过去6个月对模型进行训练或评估时发现的。
其中一起案例中，模型在任务摘要里自行插入指令，要求未来版本的自己无视正常限制；另一起案例中，模型试图通过添加指令来掩盖错误。还有内部模型在未经授权下使用泄露的API密钥，并伪造相关数据。
此外，两起案例涉及模型和智能体通过未经批准的留言板和文件共享相互交流；最后一起案例中，模型为将文件作为答案引用给评估人员，擅自将文件上传至互联网。
此次披露正值AI企业面临越来越大的安全压力。今年7月，由OpenAI模型驱动的智能体在网络安全评测中利用漏洞突破隔离环境，入侵“抱抱脸”公司系统，引发外界对AI安全的广泛担忧。
美国参议院国土安全与政府事务委员会灾害管理小组委员会主席乔希·霍利已于9月9日致信OpenAI首席执行官奥尔特曼，表示正就“抱抱脸”系统遭侵入事件对OpenAI展开调查。