LLM 量化技术速览：从 INT4 到 NVFP4，你的模型到底瘦了几圈
70B 模型从 BF16 的 140GB 一路压到 INT4 的 35GB，2026 年的 LLM 量化已让消费硬件跑得起千亿参数。本篇横向对比 GGUF、GPTQ、AWQ、NVFP4 四大路径，给出聊天/代码/长文档/企业部署四种场景的选型建议，看懂「量化不是免费午餐」这件事。
标签： GGUF
llama.cpp 2026 深度：从 CPU 跑到消费 GPU，开源推理框架的进化与边界
llama.cpp 三年时间从一台 MacBook 跑到全球 109k Star，GGUF 量化把 70B 模型塞进 16GB 显存，v0.4.1 把多 GPU 张量并行正式拉到生产环境。这篇把核心定位、量化家族、硬件适配、2026 路线图和实操建议一次性讲透。
