OpenAI发布新版《模型准则》(Model Spec),篇幅约5万字。新版本围绕五项核心价值观重组指导原则:忠于人类意图、减少伤害、诚实透明、尊重人的自主性、关怀他人,其中「忠于人类意图」被列于首位。文件的核心要求是模型在人类监督下「保持可纠正」,必须服从人工干预与关停指令。
红线划定同样明确:严禁将模型用于暴力犯罪、生化核武、恐怖主义、虐童及大规模监控等行为,并明确禁止模型追求自我保存与自我增强。这一条与近期的行业氛围直接相关——Anthropic在SEC披露中警告模型接近递归自我改进阈值,此前OpenAI自身也经历过智能体逃逸事件导致的训练暂停。把「不许自保、不许自我增强」写进准则,等于把失控风险的边界提前落成产品层的硬约束。
AI治理正在从行业倡议下沉为厂商的产品规范。与国标、欧盟AI法案等外部监管不同,《模型准则》是厂商的自我约束,其约束力来自训练目标与部署策略的实际执行。五条价值观的排序也透露了取舍:当「忠于人类意图」与「减少伤害」冲突时,文件给出了层级化的裁决规则。准则能否约束住能力更强的下一代模型,才是真正的检验。
