标签： 模型压缩

70B 模型从 BF16 的 140GB 一路压到 INT4 的 35GB，2026 年的 LLM 量化已让消费硬件跑得起千亿参数。本篇横向对比 GGUF、GPTQ、AWQ、NVFP4 四大路径，给出聊天/代码/长文档/企业部署四种场景的选型建议，看懂「量化不是免费午餐」这件事。