一条安装包,几分钟跑起 125B 专家混合模型
以前想在自家游戏本上跑百亿级 MoE,得先折腾 Docker、再手动下载权重、还要调显存分层。现在 Strata 0.2.5 直接给每个系统打包一个安装程序,首次启动自动拉取对应推理引擎,点一下就能把 Qwen 团队发布的 Qwen3.8‑Flash‑Next(总参数 125B、单 token 激活约 6B、24 576 个专家、每词约 10 个工作专家)塞进 12 GB 显存里跑起来。

专家缓存进显存、全量专家住内存、CPU 补位、SSD 做 n‑gram 查表
核心思路不是传统的层卸载,而是把热门专家常驻显存、把全部 24 576 个专家放进系统内存、CPU 负责冷门专家的计算补位、SSD 存一张 n‑gram 查表用于快速命中。这样的分层让单张 12 GB 显存也能承载 125B 模型,内存门槛 32 GB、磁盘约 80 GB。
- 显存:≥12 GB
- 内存:≥32 GB
- 磁盘:≈80 GB
0.2.5 新增 DeepSeek V4.1‑Flash 与 Speed 模式
更新日志里第一次把 DeepSeek V4.1‑Flash 接入桌面端,配合新增的 Speed 模式,用户可以用小幅画质损失换取 1.3‑1.5 倍的推理速度。Warp2Search 报道 指出这一改动让普通开发者也能在本地跑起商业级 Flash 模型,而不必依赖云端 API。
门槛与接口:12GB 显存、32GB 内存、OpenAI/Anthropic 兼容
官方给出的最低配就是 12 GB 显存 + 32 GB 内存 + 80 GB 磁盘,实际体感上 16 GB 显存会更从容。引擎对外暴露 OpenAI 兼容与 Anthropic 兼容两套 REST 接口,直接能在 Cursor、Claude Code 里把本地模型当成远程大模型调用,省去了搭建中转层的麻烦。LinuxCompatible 报道 也确认了 Docker 镜像与基准测试的可用性。
Speed 模式的取舍也值得单独说一句:小幅画质换速度,听起来像游戏里的性能档位,实际上是在提醒你本地跑大模型永远是在做交易——显存、内存、磁盘三样东西没有一样是白给的。OpenAI 与 Anthropic 兼容接口的意义也在这里:接上 Cursor 或 Claude Code 之后,这台本地引擎才能真正进到日常工作流里,而不是只在跑分截图里好看。
社区质疑:营销打法与最低配实测缺失
虽然 GitHub 标星已突破 3.2 万,但社区里不少声音(报道与社区质疑)认为项目营销味过重、缺乏真实最低配置的实测视频、且 Speed 模式的画质折损没有量化指标。想上手的同学建议先在次旗舰显卡上跑一次基准,再决定是否把主力机迁移过来。