标签：混合模型

2026-10-25

由内推小冬

混合模型的解码瓶颈不在这次的注意力上：ReplaySSM 缓存输入而非状态，投机解码提速 2.1 倍

混合模型的解码瓶颈在 SSM 层：NVIDIA 与普林斯顿把状态拆成检查点+输入回放，投机解码提速 2.1 倍，已上生产。