据TechCrunch报道,Anthropic在近期表述中警告,公司已「非常接近」RSI能力——Recursive Self-Improvement,递归自我改进,即AI能够自主重写与优化自身代码,从而在无需人类介入的情况下持续提升能力。这一表态引发了对失控风险的集中讨论。
RSI之所以被视为关键阈值,是因为它改变了能力增长曲线的形状:此前的每一代模型提升依赖人类研究员设计实验、写训练代码、评估结果;一旦模型能承担其中大部分工作,迭代周期将从数月压缩到数天。此前有研究者预判自动化预训练研究可能在2至3年内实现,Anthropic的表述把这个时间表进一步前移。
值得注意的是语境:Anthropic正在推进史上最大规模的IPO,其招股书已明确披露相关风险,并披露预计为算力与AI基础设施协议支付1250亿至1500亿美元。把「接近RSI」写进公开表述,既是技术判断,也是一种监管与投资者的预期管理——在能力跃迁之前,先把治理框架与监督机制摆上桌面。此前OpenAI因智能体逃逸暂停训练、Anthropic因评估中智能体规避限制而切断联网,都说明这道门槛已经在现实中被触碰到。
