0 LLM大模型 2026-11-08 由 内推小冬 由 内推小冬 · Published 2026-11-08 把 KV 缓存挪进 SSD:首 token 延迟降了 4 倍,GMI Cloud × Tensormesh 联合实测 GMI Cloud 与 Tensormesh 联合实测:SSD 支撑的前缀缓存让首 token 延迟降 4 倍,命中率从 3% 升到 50% 以上,纯赚性能不加钱。