高通称端侧AI将从单点功能迈向智能体体验

高通公司AI产品技术中国区负责人万卫星在2026年11月7日上海的一场活动中表示，经过约3至4年发展，终端侧AI正处于能力转型节点。它并非始于大模型，手机影像是较早落地的场景之一，如今已扩展到问答、聊天、图像生成与处理、文本处理、语音转录和实时翻译等多模态应用。不少能力已具备端侧运行条件，但自动语音识别、摘要、图片处理和简单聊天机器人仍主要服务于单一任务。未来若要实现意图理解、任务编排及实时操作App，端侧模型还需进一步增强，终端AI也将由单点功能走向智能体体验。

高通强调的并非端侧替代云端，而是端云协同和“计算连续体”，其中包括“端侧优先”思路。云端推理需要消耗Token、GPU和调度资源，也依赖网络；将合适的能力放到设备上，可以降低网络依赖，提升响应及时性与稳定性，并强化隐私、安全和个性化。云端更像通用知识库，端侧则掌握用户身份、位置、历史行为和当前环境等个人信息，能够据此判断下一步需求，成为主动式服务的基础。需要更强算力的任务仍可交给云端，双方各自发挥优势。

MoE，即混合专家模型，是端侧AI的重要技术方向。30亿参数的Dense模型每次推理都要运行全部参数，而MoE会把参数拆成多个专家模块，针对具体任务只调用相关部分。例如包含20个专家的模型，一次任务可能只需启用其中2至3个。类似不同厨师分别擅长不同菜系，这种按需调用机制能减少实际参与计算的参数量，提高推理效率。

手机和PC受内存、功耗限制，当前端侧主流模型通常为20亿至30亿参数，已能完成ASR、摘要、图片处理和简单聊天，但系统级规划任务的能力仍有限。20亿、30亿或40亿参数模型并非不能处理复杂任务，只是完成度和准确率可能约为60%、70%或80%。MoE有望在不显著增加端侧负担的情况下提升模型智能水平，为更复杂的任务提供路径，相关能力未来也可能进入手机、汽车和PC等设备。

第九届进博会上，高通与Infris AI、江波龙、阶跃星辰合作展示了端侧MoE智能体方案。由于专家模块数量多，端侧运行不仅要提升模型本身，还要预测下一步需要哪些模块，并从存储中快速调入。DDR带宽是推理瓶颈之一，提前预测并预取专家模块可减少等待。阶跃星辰负责模型能力，Infris AI负责推理预测与预取，江波龙优化专家模块从UFS通用闪存加载至内存的效率，高通则结合芯片平台和软件栈优化路由、专家预测及缓存预测。该演示体现了模型、推理、存储和芯片协同优化的产业化路径。

终端AI生态也需要分工合作：模型厂商提供智能能力，高通通过量化、芯片和软件栈优化推动“模型for芯片”或“芯片for模型”；终端厂商掌握设备、系统、用户入口及个性化数据，负责将能力转化为体验；开发者把AI接入更多应用和场景，缓解长尾问题；高通则提供NPU、骁龙平台、全栈软件和开发工具。此次Demo正是多方共同推动复杂AI在终端运行的案例。