分组查询注意力（GQA）由 Google 研究者在论文《GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints》中提出。
背景与机制
多查询注意力（MQA）只保留一个键值（KV）头，能大幅加速解码推理，但论文指出会导致质量下降；而为提速单独训一个模型又不划算。GQA 的做法是让 KV 头数量介于 1 和查询头数量之间，多个查询头分组共享同一个 KV 头，相当于多头注意力（MHA）与 MQA 之间的泛化中间态。论文同时给出「uptraining」配方：把已有的多头模型检查点用约 5% 的原始预训练算量改训成 GQA 模型，实测质量接近 MHA、速度接近 MQA。
与 MLA 的边界
GQA 通过「减少并分组 KV 头」省显存，多头潜在注意力（MLA）通过「把 KV 压缩进潜在向量」省显存，两条路线目标相同、手段不同。GQA 因实现简单、无需改动推理框架的 KV 缓存布局，被众多开源模型采用。
适用边界
这是模型架构层面的设计；对使用者而言，它的意义在于解释「为什么不同模型的推理显存和速度差异这么大」，以及自托管部署时评估显存占用。