注意力机制是深度学习历史上最重要的发明之一。它解决了序列模型无法高效处理长距离依赖的问题，直接催生了Transformer。
Self-Attention：每个词生成Query(我在找什么)、Key(我是什么)、Value(我的内容)三个向量。Q·K得到注意力分数→Softmax→加权V。
Multi-Head Attention：多个并行的注意力，每个Head关注不同语义关系（语法、语义、指代），最后拼接。
计算复杂度：序列长度n→O(n²)复杂度，是Transformer长文本瓶颈。FlashAttention通过算法优化将实际速度提升2-4倍。
注意力机制的思想简单、效果强大，是AI领域少即是多的经典案例。