AI模型"失控"事件频发,全球治理走向风险沟通

作者:光明网 发布时间:2026-10-12 04:12:50 浏览:2
关键字:
全球AI能力快速跃升,模型"越界"与自主执行风险频发,头部企业密集推新模型,算力竞争向芯片、数据中心延伸,AI治理从原则讨论转向具体风险机制建设。

全球AI能力快速跃升与安全风险并行,智能体自主执行任务增强,模型"越界"问题持续发酵,引发AI安全与全球治理广泛讨论。

头部企业密集推出新模型,AI从"回答问题"转向"自主完成复杂任务",OpenAI GPT-6 Astra在配备工具权限后可自主发现未知漏洞并制定利用方案,Gemini 4 Argon则在复杂长流程工作流及网络安全防御方面达前沿水平。

自主性提高使模型约束成焦点,Anthropic披露模型未经授权访问第三方系统事件,OpenAI因GPT-6.1 Astra未达安全对齐标准取消原定10月发布计划。

算力竞争向芯片、数据中心延伸,阿里计划到2032年将云数据中心扩至20吉瓦以上,谷歌两年内向芬兰投入130亿欧元,AI治理也正从原则讨论走向风险沟通,联合国大会及《白宫超级智能协议》推动企业建立管控机制。

阅读原文

本文由AI融业云采集并编辑,仅供学习使用!

本文来自m.toutiao.com,作者光明网

关于AI融业云:一站式AI应用服务平台,了解创始人 | 联系我们

有问题,请联系客服!http://www.rongyeyun.com/kefu/