产品派
返回

百灵开源Ling-3.1-flash,560B参数且支持百万级上下文

AIInfoQ 中文站2026/10/15 20:04:06
AI 导读

10月15日,蚂蚁集团旗下百灵大模型宣布开源Ling-3.1-flash,模型权重已同步提供至Hugging Face和ModelScope,面向办公、医疗、软件工程、终端操作等真实工作流场景。开发者可分别通过 https://huggingface.co/inclusionAI/Ling-3.1-flash 和 https://www.modelscope.ai/models/inclusionAI/Ling-3.1-flash 获取模型。

Ling-3.1-flash延续Ling-3.0-flash的混合线性架构,总参数量约560B,每个Token约激活25B参数,最长支持1M上下文。面对分散资料,模型能够整理报告和汇报材料;面对零散症状,可协助梳理病史及就诊问题;面对遗留代码,则能理解既有实现、开发新功能,并根据测试结果持续修正。

在GDPVal-AA V2.1办公评测中,Ling-3.1-flash取得1673分(ELO);在HealthBench Professional医疗评测中得分65.35。FrontierSWE软件工程基准和Terminal-Bench 4.0终端操作基准也显示,该模型具备处理复杂工程任务的能力。

此次开源旨在帮助团队在自有环境部署模型,并将其接入企业知识助手、代码助手等业务。对于需要连续阅读资料、生成内容并根据反馈修改结果的多轮任务,模型在保持通用能力的同时,也强调响应效率。Artificial Analysis公开评测显示,其智能指数为41,生成速度约210 Token/秒;混合调用价格约为每百万Token 0.19美元,兼顾较快输出和较低成本。

为降低本地部署门槛,团队对 routed experts 使用MXFP4量化,dense层采用block-FP8,权重占用由约534GB降至292GB。在相应的Hopper GPU测试配置中,服务部署所需显卡数量由8张减少至4张,使拥有服务器级GPU的团队可以用更少硬件运行模型。

此前,Ling-3.0系列已覆盖服务器、个人电脑和移动终端等部署路径:单台NVIDIA DGX Spark可运行Ling-3.0-flash,用于驱动编码智能体构建并测试小游戏;16GB MacBook Air可运行Ling-3.0-tiny,作为常驻本地助手;Galaxy A32 4G通过Tiny GGUF版本验证本地推理与工具路由原型,小米14T Pro则借助PocketPal实现Tiny版本本地对话。该系列近30天在Hugging Face的下载量接近100万次,社区还提供Flash GGUF、Tiny GGUF和Flash MLX 4bit等适配版本。

百灵希望通过Ling-3.1-flash为开发者提供可自主验证和二次适配的模型基础,进一步缩短从需求文档、代码仓库到生产环境的交付链路。其模型能力也已延伸至专业领域,推出Ling-3.0-flash-Fin、Ling-3.0-flash-Sante等增强版本,用于投研、健康管理等金融和医疗业务流程。

大模型开源模型智能体模型部署蚂蚁百灵

本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。

阅读原文