“AI教父”Geoffrey Hinton在最新55分钟访谈中再次发出警告:人类可能只剩一两年准备时间。但他强调,这并非预言AI将毁灭人类,而是指监管制度、安全测试和社会适应的补课窗口正在急剧缩短。他主张建立类似FDA的前沿AI审批机制,要求开发公司在模型发布前证明其足够安全,而非先发布再补救。
Hinton明确反对“停止AI”的简单口号。他用汽车比喻:监管不是刹车,而是方向盘,问题不是让车不动,而是决定它往哪开。他赞赏Anthropic CEO Amodei公开承认公司利益与安全判断可能冲突的勇气,并认为真正困难的是安全要求影响融资和竞争时,企业是否仍愿接受约束。
他特别担心AI参与开发下一代AI形成的正反馈循环。近期他与Bengio等人合著论文,讨论AI研发自动化可能触发智能爆炸的风险。同时,他提醒不能简单让AI监管AI,价值判断和治理权最终不能交出去。
对普通人而言,更早到来的不是“AI杀死人类”,而是职业阶梯的断裂。初级编程、数据整理、资料搜集等可标准化任务将率先被自动化,年轻人积累经验的路径可能被切断。Hinton建议学会使用AI,但不要把判断力一起外包。
他本人已用GPT重做30年前的研究,将一周反馈压缩到几分钟,但强调人类仍负责选题、判断和担责。当执行越来越便宜,领域认知、问题选择和责任将成为不可替代的价值。
