产品派
返回

Pika开源H3 Flex模型,六步联合生成音视频

AI雷锋网2026/11/1 17:46:00
AI 导读

Pika近日发布基于MiniMax H3开发的H3 Flex,并同步开放适配器权重和推理代码。该模型采用六步去噪流程,同时生成视频画面与声音,支持文本提示、首尾帧以及多模态参考输入,可用于镜头设计、参考内容生成和视频编辑。

此次发布包含两套LoRA适配器:一套面向文本和首尾帧条件生成,另一套用于多模态参考生成。配套内容还包括MiniMax H3基础组件和本地推理工具。H3 Flex原生支持480P、768P输出,可生成时长约5至15秒的视频,并同步输出立体声音频;开发者还可以通过ComfyUI工作流或Hugging Face Diffusers接入现有创作流程。

本地生成之外,相关API支持将视频增强至1080P、2K和4K,并提供音频分轨。创作者可先用低分辨率生成草稿并筛选版本,再对成片进行高清处理。生成的声音能够拆分为对白、配乐、音效、拟音和环境声五类独立轨道,便于后期分别调整,高分辨率增强和分轨处理由云端API完成。

训练方面,团队先使用内部音视频数据集对MiniMax H3进行监督微调,再通过投影分布匹配蒸馏(PDMD)把教师模型的50步去噪压缩到6步。随后,团队结合奖励反馈学习和直接偏好优化训练LoRA适配器,以提升美学质量、画面清晰度和指令遵循能力。适配器合并到推理流程后,不需要额外增加采样步数。

托管推理服务也进行了优化。在模型权重和六步采样方案不变的情况下,使用8张NVIDIA B300 GPU生成一段5秒、768P的音视频时,条件编码、去噪和解码总耗时由3.409秒降至2.129秒,处理速度约提升至原来的1.6倍。

公开对比评测显示,H3 Flex在五项视觉与音频质量指标中均取得参评模型最高分,并在DesignArena文生视频榜单排名第八,成为该榜单排名最高的开源视频模型。MiniMax H3开源后,围绕不同场景出现了多种衍生版本,包括Running Hub的480P版本、面向实时生成优化的H3 Max 768P和H3 Max 480P,以及FastVideo推出的FastH3、英伟达与MIT联合开发的StreamRender-H3和Open-H3-Regenerate-2K等。海外开发者还基于相关模型开发了Twitch直播、全天候“AI电视台”和AI短视频直播工具。

MiniMax H3开源一个月内下载量已超过2400万次,并产生超过300个公开衍生模型,成为2026年全球下载量最高的模型之一。相关资料还列出了MiniMax H3、Pika及开源生态等内容。

视频生成音频生成开源模型MiniMax H3LoRA

本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。

阅读原文