产品派
返回

IDC评估:范式智能AI算力管理平台综合排名第一

AIInfoQ 中文站2026/9/30 18:03:44
AI 导读

企业采购了大量英伟达 GPU 以及昇腾、海光、寒武纪、壁仞等国产 AI 芯片,却仍可能出现业务排队、设备空转的情况。不同芯片的软件环境彼此割裂,小任务占用整卡,大规模任务又难以一次性获得完整资源;随着 Agent 带来高频、多模型联动的突发调用,静态分配模式的矛盾更加突出。

算力管理平台因此成为 AI 落地的重要基础设施。IDC 发布的《中国 AI 算力管理平台技术能力评估,2026》从资源管理、服务管理、运维、技术架构、业务场景支撑和交付服务六个维度进行评估。范式智能综合得分排名第一,并在资源管理、运维、技术架构及交付服务四项中取得满分。

造成账面算力与可用算力脱节的原因主要有三类:不同芯片缺乏统一抽象层,形成相互隔离的“烟囱集群”;以整卡为单位分配资源,使轻量任务占用大量闲置显存;分布式训练缺少跨节点协同,部分节点等待资源时会拖慢整个集群。Agent 的脉冲式负载还会让静态预留陷入高闲置或突发拥塞的两难。

要盘活资源,平台需要支持细粒度切分、强隔离和动态调度。开源调度器 HAMi 主要由范式团队贡献,2026 年 7 月进入 CNCF 孵化项目阶段,重点解决动态弹性切分、资源误判及与批量调度引擎协同等问题,项目地址为 https://github.com/Project-HAMi/HAMi。

大规模训练还需要成组调度,将任务所需节点以 PodGroup 方式整体分配,确保资源全部满足后再启动,避免节点反复等待。同时,平台应屏蔽不同芯片的驱动和运行时差异,并提供“独占、共享、超分”三类资源池。据介绍,某大型政策性银行已借助该架构,在两地三中心环境中打通异构算力池。

算力运营也正从按“卡时”管理转向按 Token 衡量业务产出。范式智能通过 AI 网关同时统计硬件占用和模型调用量,并结合配额与熔断机制进行服务化管理。其 2026 年上半年 API 业务收入为 4.64 亿元,同比增长 860.8%;借助 HAMi vGPU,GPU 综合利用率由不足 30% 提升至 70%—90%。

随着硬件性能提升趋缓,企业竞争重点将从囤积芯片转向精细调度和软件效率。能否统一异构资源、提高利用率,并把算力转化为可量化、可交付的 Token 产能,将成为 AI 基础设施投资回报的关键。

算力管理AI基础设施异构芯片智能体HAMi

本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。

阅读原文