辛顿最新警告:AI监管窗口或只剩一两年

作者:虎嗅APP 发布时间:2026-10-10 04:25:05
关键字:
AI教父辛顿在最新访谈中警告,人类可能只剩一两年准备窗口,他主张建立FDA式AI审批机制,并提醒普通人警惕工作被自动化。

“AI教父”Geoffrey Hinton在最新55分钟访谈中再次发出警告:人类可能只剩一两年准备时间。但他强调,这并非预言AI将毁灭人类,而是指监管制度、安全测试和社会适应的补课窗口正在急剧缩短。他主张建立类似FDA的前沿AI审批机制,要求开发公司在模型发布前证明其足够安全,而非先发布再补救。

Hinton明确反对“停止AI”的简单口号。他用汽车比喻:监管不是刹车,而是方向盘,问题不是让车不动,而是决定它往哪开。他赞赏Anthropic CEO Amodei公开承认公司利益与安全判断可能冲突的勇气,并认为真正困难的是安全要求影响融资和竞争时,企业是否仍愿接受约束。

他特别担心AI参与开发下一代AI形成的正反馈循环。近期他与Bengio等人合著论文,讨论AI研发自动化可能触发智能爆炸的风险。同时,他提醒不能简单让AI监管AI,价值判断和治理权最终不能交出去。

对普通人而言,更早到来的不是“AI杀死人类”,而是职业阶梯的断裂。初级编程、数据整理、资料搜集等可标准化任务将率先被自动化,年轻人积累经验的路径可能被切断。Hinton建议学会使用AI,但不要把判断力一起外包。

他本人已用GPT重做30年前的研究,将一周反馈压缩到几分钟,但强调人类仍负责选题、判断和担责。当执行越来越便宜,领域认知、问题选择和责任将成为不可替代的价值。

阅读原文

本文由AI融业云采集并编辑,仅供学习使用!

本文来自m.toutiao.com,作者虎嗅APP

关于AI融业云:一站式AI应用服务平台,了解创始人 | 联系我们

有问题,请联系客服!http://www.rongyeyun.com/kefu/