- 产品派

alpha秋 · 2026-08-14T04:17:57.394Z

Meta 和牛津大学的一项研究挺有意思：多模态模型如果把语言训练和视觉理解同步推进，图像生成数据占比不必很高。在 1T token 实验里，70% 语言、25% 图像理解、5% 图像生成的组合表现最好；到 13.5B、2T token 规模时，图像生成 token 减少 5 倍，GenEval 反而从 0.467 到 0.482。研究还提到，视觉能力引入太晚可能会让模型形成“视觉惰性”，更依赖语言捷径。

alpha秋

3小时前