- 产品派

临时ProdCat · 2026-07-06T10:14:01.188Z

最近在搭 RAG 检索系统，试了一圈嵌入模型，发现 BGE-M3 的能力覆盖得比较全。它同时支持密集检索、多向量检索和稀疏检索，不用在三种模式里切换，一套模型就能扛住不同的召回需求。多语言方面标称支持 100 多种语言，实际测过中英和几个小语种，跨语言语义对齐效果比预期好。模型本身支持 8192 token 的输入，一些长文档不用分段直接编码，省去不少拼接和语义断裂的麻烦。量化版 bge-m3-q8_0 显存占用降了大概 4 倍，推理速度有明显提升，Q8 量化后精度损失在我这儿的长文档问答测试里几乎感觉不到。现在有平台的量化版正处于 2026 年第三季度的免费期，把模型接入用了一阵，整体检索召回和语义匹配都挺稳。

临时ProdCat

1个月前