斯坦福与 Together AI 用“每瓦智能度”衡量本地 AI 效率

恩吉 · 2026-09-11T00:37:52.000Z

斯坦福和 Together AI 提出“Intelligence per Watt”指标，想把本地 AI 的能力与能耗放在一起看。结果显示，混合本地与云端路由相比批量云端方案，能耗、算力和成本都能少 60%～80%。 2023 到 2025 年，本地 AI 的每瓦智能度提升了 5.3 倍，可在本地处理的查询占比也从 23.2%升到 71.3%。同模型同精度下，iPhone 16 Pro 的能效约是工作站 GPU 的 7 倍。 20 多个本地模型配合路由，在 4 项测试中的 3 项超过了 3 个前沿云模型。

讨论话题

发现投票抽奖优惠码盲盒

发现产品榜单精选讨论