OpenAI于9月30日在官网发文称,其近期遭遇一场有组织的对抗式蒸馏活动,即系统性未经授权利用模型输出或推理过程来训练、复现或改进另一模型。
该活动始于7月第一周,7月1日规模较小,但7月24日至25日流量突然大幅增加,超过4000名用户发起了1.6万次请求。OpenAI进一步调查后发现,超1.5万名用户存在类似提示词活动,到7月28日已完全阻止该批行为。
OpenAI强调,本次活动并未破解其加密系统、入侵数据库或直接访问用户对话,但相关行动违反了服务条款。公司已通过前沿模型论坛与行业合作伙伴分享信息,共同加强蒸馏防御能力。
OpenAI最后披露,截至目前尚不清楚攻击实体,但认为其核心活动群体与开发Kimi模型的月之暗面有关。
