产品派
返回

Token降价难抵需求增长,企业加速布局边缘AI

AIInfoQ 中文站2026/9/29 10:03:22
AI 导读

企业大规模使用AI后,Token单价持续下降并未带来账单同步减少。视源股份商用显示BG副总裁王玉龙表示,模型要获得更好效果,需要输入更完整的上下文,随着上下文规模和推理次数增长,实际成本仍可能超出预期。这也是视源股份与英特尔推进边缘AI算力合作的重要原因之一。

边缘部署的价值并不只在节省费用。门店点餐、商品加入购物车和结算需要低时延,课堂视频涉及未成年人隐私,电子制造企业的核心算法与供应链数据也不能随意离开内网。英特尔行业及解决方案业务部总经理王景佳指出,服务器投入、网络稳定性、响应速度、隐私安全和数据主权,都需要纳入部署决策。模型推理单价虽然下降,但推理需求增长更快,云端账单未必因此降低。

企业正在从“纯云端”或“纯本地”的二选一,转向云、边、端协同。商米科技陈桂鸿介绍,门店交易类操作适合放在本地或边缘侧,以避免网络波动影响体验;需要汇总大量经营数据的“智慧店长”则对实时性要求较低,可以更多使用云端。汽车在无网或弱网环境下的语音、导航体验,也说明连续运行的设备不能把网络连接作为全部功能的前提。

教育场景中,视源股份旗下希沃已探索课堂观察三四年,通过音视频分析生成课堂评估报告,并辅助教研人员完成听课和教学评价。为保护未成年人隐私,视频先在教室内预处理、结构化并脱敏,云端只接收处理后的数据,再结合班级历史学习情况生成结果。该场景使用32—48 TOPS本地算力即可满足需求,由端侧小模型完成快速处理,复杂分析再通过云边协同完成。制造企业同样强调数据隔离,成都派兹互连的核心算法、图形计算引擎和编程服务器不接触外网,客户供应链数据也严禁外传;企业可按任务决定是否采用多模态能力以及哪些工作上云。

真正影响落地效果的还有行业流程适配。教育AI需要把课堂观察、作业扫描、自动批改和学情整理等教研流程重新组织,而不是简单让通用模型生成总结。派兹互连发布的AI EDA一体机采用英特尔Agent Box方案,结合CPU、锐炫Pro B70 GPU和行业软件,将EDA、仿真及知识库整合起来。其方向并非让大模型直接布线,而是让模型操作EDA工具完成自动布线,并进一步支持从电路板设计、器件选型到装配的协同仿真。

AI负载也正在发生变化:应用由训练转向大规模推理,Agent运行和调度带来更多CPU任务,物理AI则同时提出实时反馈、GPU矩阵计算、低功耗和工业可靠性要求。部分设备需要7×24小时工作,并满足防尘、防震和电磁兼容标准,因此英特尔认为XPU架构更适合部分边缘和物理AI场景,同时还需要统一编程、调度CPU与GPU的软件框架。

企业最终仍会根据投入与收益选择部署方式。除直接采购外,租赁、订阅和按业务效果合作逐渐增加;低安全要求的场景可先通过SaaS工具提效,高安全场景则更倾向本地部署。英特尔未来一到两年将重点完善可调度设备、端侧与云侧算力的混合AI方案,并加强芯片与软件生态协同,让本地设备承担实时和敏感数据处理,同时与云端模型配合,把AI投入转化为可量化的降本增效。

边缘AI云边端协同企业算力AI推理数据隐私

本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。

阅读原文