手里这张 RTX 3080 Ti 只有 12G 显存，最近拿它跑了 Qwen3.8-Flash-Next 125B MoE，记录一下 Strata 0.1.43 的安装过程和实测数据。

我的配置是：3080 Ti 12G、64GB DDR4 四通道、PCIe 3.0、Win11。模型用 Q2_0，文件大约 37.6GB，之前也试过 IQ2_XS 39.2GB。MoE 每个 token 只激活一部分专家，Strata 会把放不进显存的专家放到系统内存，需要时通过 PCIe 搬进显存，所以速度很看内存和 PCIe。

64GB 内存基本是门槛，32GB 装不下。模型还有几个量化档：Q2_0 37.6GB、IQ2_XS 39.2GB、IQ3_XXS 47.0GB、IQ3_S 54.8GB。最后选 Q2_0，主要是给 KV 缓存和系统留空间。IQ3_XXS 跑起来时，系统可用内存最低只剩 3.3GiB。几个档位的质量我没做过对比，只能确认 Q2_0 最宽松，IQ3_S 最吃内存。相同体积下，别选均匀 4bit，mixed 档的 KL 更好一些。

安装要求是 RTX 20 系以上、驱动 580+、64GB 内存、80GB 空闲磁盘，支持 Win10+ 和 Linux。我从项目发布页下载压缩包，解压到纯英文目录，比如 D:\\Strata，然后双击 START-HERE.bat。向导里选 qwen3.8-flash-next-q2_0、上下文 32768、读图 yes，模型大约下载 40GB，断了可以续传。

目录一定要摆对：

D:\\Strata\\

├─ Strata-main\\ 程序

└─ Strata-data\\ 模型

setup 是按隔壁目录找模型的。如果解压目录变成了 Strata-main (2)，它找不到 Strata-data，可能会重新下载 40GB。启动时也别加 --setup，不然会重新跑配置向导，严重时又下几十 GB。

升级用 UPDATE.bat。zip 安装只能更新引擎，拉不到新代码，想换版本得重新解压。模型在同级目录里，不用重新下载。升级前最好备份配置，setup 重跑会覆盖手调参数：

copy D:\\Strata\\Strata-main\\strata-q2_0.json D:\\backup.json

copy D:\\Strata\\Strata-main\\run-q2_0.bat D:\\backup.bat

我最后使用的参数是：

--expert-cache auto

--prefill auto

--spec 6

--max-context 32768

--kv int8

--vram-reserve-mib 700

--conversation-cache-mib 2048

--conversation-cache-slots 4

--pcie-frac 0.45

--spec-min-p 0.70

这套参数只适合我这台机器，不能直接照搬。--adapt-every 我测下来 decode 掉了 18.7%，并发也少了一半多。--kv k8v4 慢了 3% 到 5%，还多占 750MB，这两个我都关了。

引擎从 0.1.39 升到 0.1.43 后，decode 从 62.4 提到 76.0，增加 21.8%。16K prefill 是 1733.6 到 1740.5，24K prefill 是 1938.1 到 1962.9，变化不大。16K 首字从 9.24 秒变成 9.21 秒。

30 路并发时，单路速度从 131.1 提到 164.7，增加 25.6%。墙钟时间从 38.9 秒降到 31.2 秒。默认大约 32 tok/s，调完后能到 76 tok/s。绝对数值都只代表这套硬件，相对变化更有参考意义。