何恺明团队新作:看猫片就能学会ARC挑战

作者:鹭羽 发布时间:2026-10-02 05:34:27 浏览:1
关键字:
何恺明团队提出纯视觉方案NAT-ARC,用ImageNet猫狗图像预训练模型,在ARC抽象推理基准上以0.6B参数达到63.4%准确率,集成后达70.2%,逼近专用LLM系统。

何恺明团队提出纯视觉方案NAT-ARC,用ImageNet猫狗花草预训练模型先学会“看”,再迁移到抽象格子推理,不依赖大语言模型。

ARC是公认最难的AI视觉智力测验之一,以往主流解法都把彩色格子转成文字交给LLM,视觉路线则因随机初始化、吃不到预训练红利而容易过拟合。

NAT-ARC在视觉流程前加入ImageNet MAE自监督预训练,复用公开checkpoint初始化编码器并微调,测试时对每题做LoRA适配,使模型能自动聚焦格子中的有意义图案。

其最佳单模型仅0.6B参数,在ARC-1上取得63.4% pass@2、集成后达70.2%,接近8B专用LLM的71.6%,证明预训练打通了视觉路线的scaling瓶颈,模型越大效果越好。

阅读原文

本文由AI融业云采集并编辑,仅供学习使用!

本文来自qbitai.com,作者鹭羽

关于AI融业云:一站式AI应用服务平台,了解创始人 | 联系我们

有问题,请联系客服!http://www.rongyeyun.com/kefu/