是什么：视觉 Transformer（Vision Transformer，ViT）出自 Google 2020 年论文《An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale》。做法出人意料地简单：把图像切成固定大小的小方块（如 16×16 像素的 patch），每个 patch 拉平后线性投影成一个向量，当作一个「词」；再加上位置编码让模型知道方块的空间顺序，然后整个序列直接送进标准的 Transformer 编码器。图像分类任务上再取一个「分类 token」的输出做类别判断。
为什么重要
论文的核心结论是「大规模先行」——ViT 缺少卷积网络自带的归纳偏置（局部性、平移不变性），在中小数据量上不如 CNN；但预训练数据足够大时，Transformer 的扩展性优势显现，在多个图像分类基准上超越了当时最强的卷积网络，且预训练计算量更省。此后视觉模型的路线整体转向 Transformer：视觉编码器普遍采用 ViT 结构，多模态大模型（图文、视频理解）几乎都以 ViT 作为视觉入口，CLIP 等对比预训练方法也常用 ViT 作图像编码器。
适用边界
ViT 的优势建立在大规模预训练上，数据少、任务窄的场景用卷积网络仍可能更划算；对输入分辨率敏感（patch 数量随分辨率平方增长）是工程上常见的实际问题。后续的分块注意力、层级结构等变体主要在缓解计算量与分辨率适配问题。