OpenAI宣布,为配合《欧盟人工智能法案》的内容透明要求,未来几周将在欧盟地区符合条件的ChatGPT和Codex文本输出中加入机器可识别的隐形水印。
该技术名为textGrain,会在模型选词过程中嵌入不可见的统计信号,检测器通过识别该信号判断文本是否来自OpenAI。水印功能将仅在欧盟所有计划中向符合条件的用户推出,不会在全球默认开启。
OpenAI同时为API客户提供选择加入的水印功能,从今天起全球API客户可为部分模型添加水印输出,自行决定如何履行透明度义务。团队还在与云合作伙伴合作,未来几周内为通过其服务访问的OpenAI模型输出提供水印。
此外,OpenAI将向获批的研究人员和专家组织提供探测器访问权限,申请从今天开始,按行为准则逐案授予。该工具仅报告是否检测到水印,不会透露用户身份、提示内容或对话内容。
