标签： Google Research

论文躺了近一年，一篇博客加一场 ICLR 就火了。Google 联合 NYU 把 KV cache 压到 2.5–3.5 比特：免校准、在线量化，显存至少省 6 倍，H100 上注意力计算最高快 8 倍——llama.cpp 和 vLLM 的社区实现已经在路上。