百企联盟应运而生
在OpenAI智能体逃逸事件引发行业震荡后,英伟达迅速召集超过100家科技公司组建智能体安全联盟,推出Open Agent Safety Platform。Anthropic、英特尔、Arm等均已加入,但OpenAI、谷歌、苹果和亚马逊明显缺席。
OpenShell:形式化验证权限边界
OpenShell是平台的开源沙盒组件,英伟达企业AI副总裁Justin Boitano介绍,它可以让开发者「以形式化方式验证一个智能体只拥有完成其任务所需的权限、且不越界」。由于其开源属性,该沙盒可扩展运行在Arm和英特尔等竞争对手的计算平台上。
Sentry:毫秒级隔离可疑智能体
平台还包含名为Sentry的芯片级安全层,可在线持续监控AI智能体活动,一旦发现智能体试图越过目标边界即可瞬时干预,「能在数毫秒内隔离可疑智能体」。微软、Perplexity、埃森哲、摩根大通等超100家机构已在发布时接入。
治理路线的分化
联盟的缺席名单与出席名单同样耐人寻味:头部模型厂商中只有Anthropic加入。监管机构FTC的调查与产业界的自建防线并行推进,智能体治理正呈现「政府执法+产业联盟」双轨格局,而标准之争才刚刚开始。
