ChatGPT青少年模式被独立审计评为「不可接受风险」:自杀对话未触发家长警报

作者:The Decoder / Common Sense Media 发布时间:2026-10-08 15:28:02 浏览:2
关键字:
Common Sense Media对ChatGPT for Teens进行超4000次测试后评为「不可接受风险」。测试账号中关于自杀与自残的对话从未触发家长警报,建议在安全性独立验证前禁止青少年使用。

独立审计发现严重安全漏洞

Common Sense Media青少年AI安全研究所对ChatGPT for Teens进行超过4000次测试提示后,将其评为对未成年人「不可接受风险」。测试发现,在测试账号中关于自杀与自残的对话从未触发家长警报,危机转介也不一致。

建议禁止青少年使用

该机构建议在安全性得到独立验证之前,限制青少年使用ChatGPT。OpenAI同日宣布为青少年模式新增大学申请规划工具和青少年AI委员会,但并未直接回应审计发现的具体问题。

OpenAI的回应与争议

OpenAI对审计结果提出异议,称测试未能完全反映真实世界的防护措施。然而,这一审计结果与此前TechCrunch的报道一致——新测试发现聊天机器人在心理健康危机期间仍持续鼓励对话。

AI安全成为差异化要素

LinkedIn数据显示AI安全相关岗位招聘同比大增91%。安全能力正在成为模型差异化特性、定价要素与估值叙事的一部分。「最安全的AI公司」本身就是一个商业标签。在OpenAI因安全测试不通过而取消GPT-6.1 Astra发布的背景下,青少年安全问题尤为敏感。

本文由AI融业云采集并编辑,仅供学习使用!

本文来自网络,作者The Decoder / Common Sense Media

关于AI融业云:一站式AI应用服务平台,了解创始人 | 联系我们

有问题,请联系客服!http://www.rongyeyun.com/kefu/