今年暑假,短视频平台涌现大量由生成式AI批量制作的"毒动画",这些内容掺杂色情暴力元素,且因画面逼真、风格卡通而难以被识别。中央网信办"清朗"专项行动已清理违法信息561万余条,查处违规账号4.9万余个。
AI大幅降低了创作门槛,部分创作者以无害片头伪装、中段暗藏不良内容,高流量收益驱动其持续产出,而平台甄别技术滞后、游客模式使未成年人保护形同虚设。未成年人只需以游客身份登录,即可绕过年龄验证接触这些内容,风险极大。
法律明确未成年人身心健康优先于商业利益,平台须设置未成年人模式并及时处置有害内容,同时针对经典IP被篡改建立专门AI特征库、封堵游客登录漏洞。此外,平台还应引入AI内容识别模型,对疑似"毒动画"进行主动拦截。
治理需多方协同:创作者恪守底线,网信部门依法处置违规账号,检察机关开展公益诉讼,法院坚持"最有利于未成年人"原则明确裁判规则。只有形成监管、平台、司法与社会共治的合力,才能有效遏制AI"毒动画"蔓延,守住未成年人网络安全的底线。
