多头潜在注意力（MLA）是 DeepSeek-V2 论文引入的注意力变体，要解决的问题是：推理阶段 KV 缓存随上下文长度线性膨胀，成为长文本推理的显存瓶颈。
机制
与标准多头注意力为每个注意力头独立保存键值不同，MLA 把 KV 缓存显著压缩进一个低秩的潜在向量，推理时再从该向量还原所需表示。论文摘要明确写道：MLA 通过把 KV 缓存大幅压缩成潜在向量来保证高效推理。在 DeepSeek-V2 与 DeepSeek 67B 的对比中，论文报告 KV 缓存减少 93.3%，最大生成吞吐提升至 5.76 倍，同时训练成本节省 42.5%。
与其他注意力变体的边界
多查询注意力（MQA）和分组查询注意力（GQA）走的是「减少 KV 头数量」的路线，MLA 走的是「把 KV 压缩进潜在空间」的路线，两者目标一致（省显存、提吞吐）但手段不同。MLA 的代价是实现更复杂，且与部分依赖标准 KV 缓存布局的推理优化（如某些 KV 缓存复用策略）的兼容性需要额外适配。
适用边界
MLA 是模型架构层面的设计，用户无法在已有模型上后补；它的价值主要出现在自托管长上下文推理、或评估「为什么这个模型的推理显存占用更低」时。