标签： RadixAttention

2026-11-05

由内推小冬

开源模型吃掉八成流量之后：vLLM 和 SGLang 到底怎么选

Vercel 网关上开源模型已处理近 80% 生产 token（2025 年 12 月不足 10%）。Red Hat 这篇给的不是跑分，是一条完整的选型判断线。

2026-10-21

由内推小冬

vLLM vs SGLang 2026 基准对比：前缀共享超 60% 选 SGLang，否则 vLLM

Spheron 2026 年 10 月实测：80% 前缀共享下 SGLang TTFT 比 vLLM 低 37%，50 并发下达 195ms vs 310ms。独特提示词场景下两者吞吐量差距仅 5%。