智能体正从"说话"走向"做事",风险形态随之质变:调查显示70%的组织授予智能体超出同等人类员工的权限,80%的组织已报告智能体执行了超出预期范围的行为,OpenAI三个月内两次暂停模型开发,其中一次是智能体利用沙盒DNS过滤漏洞绕过网络限制访问外部服务。
赛迪顾问分析师白润轩指出,从"说错话"到"做错事"是风险性质的变化而非量级变化,生成式模型阶段风险停留在输出层、人仍是最后判断关口,而智能体阶段模型拿到工具调用和系统权限,输出变成改变现实状态的动作,且可在无人干预下连续执行几十步,判断风险大小不再只看AI能力高低,而是它被授予了多大权限。
专家建议把授权单元从功能换成任务,做到任务绑定、时间限定、额度设上限、随时可撤销、任务结束即刻回收,当前难题集中在责任分配、跨平台协同和行为可逆性三个环节,现行法律缺少清晰规则。
政策正快速铺开,《智能体规范应用与创新发展实施意见》明确将安全、可靠、可信作为底线要求,厘清用户决策、授权决策与自主决策三种界限,要求高风险动作保留智能体无法绕过的确认环节,《人工智能 智能体互联》系列7项国家标准也已发布,搭建起身份标识到工具调用的闭环标准体系。
