iPhone 18 Pro本地运行270亿参数模型，速度翻倍

苹果A20 Pro首次采用双16核神经网络引擎，针对人工智能运算进行了专门优化，整体性能超过此前苹果自研SoC。最新演示显示，iPhone 18 Pro在本地运行270亿参数模型时，处理速度约为iPhone 17 Pro的两倍。

iPhone 18 Pro与iPhone 18 Pro Max均配备12GB、96位位宽的LPDDR5X内存，速度相比上一代iPhone 17 Pro系列明显提升。内存升级与双16核神经网络引擎共同增强了端侧AI能力。Adrien Grondin在iPhone 18 Pro上运行Bonsai-27B模型时，模型生成词元的速度十分突出。

对iPhone来说，离线处理更大规模的270亿参数模型是一次明显进步，但本地运行AI仍存在硬件取舍。社交平台上有观点提出，既然Bonsai 2已经发布，是否还应继续使用初代Bonsai。实际情况是，采用2比特量化的Bonsai 2体积过大，无法完整装入iPhone 18 Pro的本地内存，运行时可能因此降速。

初代Bonsai采用1比特量化，4GB内存设备即可较轻松地运行，拥有8GB或12GB内存的手机则能获得更流畅的体验。iPhone 18 Pro除搭载A20 Pro外，还使用了速度更快的统一内存，带宽达到115.2GB/s。在神经网络专用任务中，双16核神经网络引擎的峰值吞吐甚至超过芯片内置的7核GPU，因此运行Bonsai-27B时能够保持较高速度，避免明显卡顿。

如果苹果未来继续提高手机内存容量，后续机型有望支持参数规模更大、结构更复杂的本地AI模型。