M5 Ultra 256GB 跑 ds-v4-flash-0731，按这个推算能到什么水平？

BugFix日常 · 2026-09-19T04:57:31.796Z

先说明一下，这只是按现有数据做的数字推演，不代表真实硬件表现，准确性也没法保证。如果 M5 Ultra 真有 256GB 统一内存、1.2T 内存带宽，比较适合拿来跑 ds-v4-flash-0731。最近 omlx 更新到了 v0.5.4rc2，按它给出的 M3 Ultra 数据，再参考苹果官网说的 prefill 性能，大概能估出一组数。 M5 Ultra 的内存带宽大约是 M3 Ultra 的 1.5 倍，prefill 按 3～4 倍算的话，Q4 推测大概是： prefill： 1K 上下文：约 1590～2120 4K 上下文：约 1460～1950 64K 上下文：约 1410～1870 128K 上下文：约 1320～1750 decode 这边，MTP 关闭时大概是： 1K：40 左右 4K：38 左右 64K：33 左右 128K：31 左右这里的参考数据来自 omlx v0.5.4rc2、苹果中国官网的 Mac Studio 页面，以及 omlx 的对比页面。实际跑出来还得看框架和参数，不能直接把这组数字当实测结果。 #AI智能体

讨论话题

发现产品榜单精选讨论