预训练研究可以被自动化
AI研究者Nathan Lambert在其Interconnects通讯中提出判断:在两到三年内实现预训练研究的自动化,如今看来是合理的预期。他的论据是,模型将很快作为分布式GPU系统工程师达到超人水平的熟练度——数据筛选、架构微调、超参搜索这些耗费研究员大量时间的环节,都可以交给智能体循环完成。
智能成本的近指数下降
这一自动化的直接后果是智能的有效成本接近指数级下降:当模型能够自己改进自己的训练流程,研发迭代周期将从月压缩到天。Lambert同时指出,编程智能体让研究执行变便宜的同时,原创研究想法的价值反而上升——稀缺的将不再是算力或执行力,而是知道该研究什么的人。
冷静的边界
Lambert特意为乐观预期画了边界:掌握GPU基础设施并不等于通用超级智能,也不会从根本上改变当前模型的性质。自动化加速的是工程化的研究循环,而非能力范式的跃迁。这一判断与Claude承担Anthropic约26%研发工作的披露相互印证:研究自动化已从假设进入量化验证阶段。
