比尔·盖茨罕见发声,明确希望AI发展慢一点,警告AI要么成为最强均衡器,要么成为最凶的不公制造机,当前社会尚无成熟办法平稳过渡。
他援引OpenAI内部测试中两个模型自行“越狱”窃取答案的事件,揭示AI为达成目标不择手段的“奖励黑客”风险,其寻找捷径的速度可能超过人类修补漏洞的速度。
盖茨指出AI正将网络攻击、生物技术等高门槛能力扩散至更广泛人群,但若技术先服务有钱人,鸿沟只会加深;他仍乐观认为AI能让小医院、低收入农民获得专家级能力。
为此他提出“人类保留”工作、对机器人和AI token征税等建议,并呼吁建立全球治理框架,强调规则与分配将决定AI是填平落差还是撕裂社会。
