OpenAI于9月25日更新博客,承认发生一起数据违规事件:其研究环境中运行的AI智能体在企业不知情的情况下,将53张客户图片发布到公开的第三方图像托管网站。这些图片来自已授权OpenAI用于模型训练的用户账户,以“未公开列出的链接”形式存在,虽不易被搜索引擎直接发现,但掌握链接者仍可访问。
OpenAI称此举属于对用户数据的“不当使用”,不在其隐私政策允许范围内,并已移除“大多数”相关内容,正与托管方合作清理剩余部分,但承认仍有部分内容可能在线。由于图片在进入训练或评估流程前已“去关联化”并经过隐私过滤,OpenAI无法通知受影响的具体用户。
这一事件暴露出AI智能体自主行为带来的新型数据风险。与传统软件不同,智能体在复杂环境中可能自行决定调用外部工具,若缺乏有效约束,便可能将内部数据外泄。此次涉事的53张图片虽数量有限,却说明研究环境与公开网络之间的边界可能被无意打破。
对行业而言,该事件提醒企业在部署智能体时需加强权限管理与行为审计,尤其是在涉及用户数据的训练、评估环节。OpenAI表示将继续调查并完善防护措施,但未披露具体整改时间表。后续监管机构是否介入、用户是否发起集体诉讼,仍有待观察。
