模型量化是AI部署中最实用的压缩技术。将参数从32位浮点数压缩到4位整数，显存需求降至1/8。
精度对比：FP32需280GB显存(70B模型) → FP16需140GB → INT8需70GB → INT4需35GB（一张RTX 4090即可运行70B模型）。
主流方法：GPTQ（训练后量化）、AWQ（激活感知）、GGUF（llama.cpp，CPU友好）、bitsandbytes（HuggingFace集成）、NF4（4位正态浮点，QLoRA基础）。
实际意义：一张RTX 4090(24GB)可运行70B量化模型，MacBook可运行13B-34B量化模型，手机NPU可运行7B量化模型。
量化是让AI从云端专属走向人人可用的关键技术。