中国智能体治理走向行为可控:注册平台、行为围栏与追溯机制骨架初成

作者:虎嗅 发布时间:2026-10-06 18:52:50 浏览:3
关键字:
从《智能体规范应用与创新发展实施意见》到《人工智能安全治理框架3.0》,中国正形成「Agent身份—授权—凭证—工具调用—执行—追溯」的治理链路,AI安全对象从Output走向Action。

治理对象:从"说什么"到"做什么"

AI治理经历三个阶段:Chatbot时代管输出内容,Copilot时代管自动化建议的公平性,Agent时代则要管行动——AI不只是建议你发邮件,而是可以直接发;不只是分析交易,而是能调用支付与下单工具。安全对象从Output走向Action,这是2026年中国AI监管最深刻的变化。

政策骨架成型

2026年5月,国家网信办等三部门印发《智能体规范应用与创新发展实施意见》,首次官方界定"智能体"为同时具有感知、记忆、决策、交互与执行能力的系统,并提出探索智能体注册平台、数字身份管理、能力声明、可信互联、合规支付、行为围栏、权限管理与行为控制。7月,《人工智能 智能体互联》系列国家标准化指导性技术文件发布,强制性国标《智能体应用安全基本要求》下达计划;9月的《人工智能安全治理框架3.0》将智能体风险单列,覆盖设计、部署、指令输入、规划、工具调用、记忆、输出与停用全生命周期。

一条新链路

与过去"模型→备案→内容安全"不同,一条新链路正在浮现:Agent身份→获得授权→持有凭证→调用工具→执行动作→留下证据→异常拦截→责任追溯。核心问题朴素而尖锐:当机器开始代表人行动,人类如何把行动权交出去,又不把控制权一并交出去。

全球四条路径

全球智能体治理尚处探索期:欧盟以AI法案高风险分类+有意义的人工监督为核心;美国联邦自愿承诺+州级立法拼图(加州要求年度风险评估);新加坡以IMDA框架与MAS金融业SAFR给出最细颗粒度的行动前检查点设计;中国则以标准体系与分类分级治理快速推进。对跨国企业而言,为部署建立治理、保留审计追踪与差异化合规策略已成必修课。

本文由AI融业云采集并编辑,仅供学习使用!

本文来自网络,作者虎嗅

关于AI融业云:一站式AI应用服务平台,了解创始人 | 联系我们

有问题,请联系客服!http://www.rongyeyun.com/kefu/