苹果最新A20 Pro芯片首次采用双16核神经网络引擎，专为AI运算打造，性能超越此前所有SoC。演示显示，iPhone 18 Pro运行270亿参数模型时，速度可达iPhone 17 Pro的两倍。
iPhone 18 Pro与Pro Max均配备12GB、96位位宽LPDDR5X内存，带宽达115.2GB/s，配合双神经网络引擎，峰值吞吐甚至超过芯片内7核GPU。网友在真机上运行Bonsai-27B模型，词元生成速度十分惊人。
不过本地跑大模型仍有取舍。初代Bonsai是1比特量化模型，4GB内存即可运行；而新一代Bonsai 2采用2比特量化，体积过大无法完整存入iPhone 18 Pro内存，反而导致性能下降。
总体来看，手机离线运行270亿参数模型已是重大进步，但内存容量仍是瓶颈。若苹果后续机型进一步加大内存，将能支持参数量更大、复杂度更高的AI模型。