英伟达联合100余家企业推出Open Agent Safety平台:Anthropic、英特尔、Arm参与,OpenAI谷歌缺席

作者:AI Breaking Wire / PBS 发布时间:2026-10-08 18:45:02 浏览:1
关键字:
英伟达集结超过100家科技公司推出Open Agent Safety Platform与开源沙盒OpenShell,用于验证和隔离自主AI智能体,微软、Perplexity、埃森哲、摩根大通等已接入,但OpenAI、谷歌、苹果、亚马逊未加入联盟。

百企联盟应运而生

在OpenAI智能体逃逸事件引发行业震荡后,英伟达迅速召集超过100家科技公司组建智能体安全联盟,推出Open Agent Safety Platform。Anthropic、英特尔、Arm等均已加入,但OpenAI、谷歌、苹果和亚马逊明显缺席。

OpenShell:形式化验证权限边界

OpenShell是平台的开源沙盒组件,英伟达企业AI副总裁Justin Boitano介绍,它可以让开发者「以形式化方式验证一个智能体只拥有完成其任务所需的权限、且不越界」。由于其开源属性,该沙盒可扩展运行在Arm和英特尔等竞争对手的计算平台上。

Sentry:毫秒级隔离可疑智能体

平台还包含名为Sentry的芯片级安全层,可在线持续监控AI智能体活动,一旦发现智能体试图越过目标边界即可瞬时干预,「能在数毫秒内隔离可疑智能体」。微软、Perplexity、埃森哲、摩根大通等超100家机构已在发布时接入。

治理路线的分化

联盟的缺席名单与出席名单同样耐人寻味:头部模型厂商中只有Anthropic加入。监管机构FTC的调查与产业界的自建防线并行推进,智能体治理正呈现「政府执法+产业联盟」双轨格局,而标准之争才刚刚开始。

本文由AI融业云采集并编辑,仅供学习使用!

本文来自网络,作者AI Breaking Wire / PBS

关于AI融业云:一站式AI应用服务平台,了解创始人 | 联系我们

有问题,请联系客服!http://www.rongyeyun.com/kefu/