视觉Transformer（Vision Transformers, ViTs）在多种视觉任务中已被证明具有优异性能。然而，将这些模型压缩至适合移动设备的轻量化尺寸时，往往会引发显著的性能下降。因此，开发轻量级视觉Transformer已成为当前研究的重要方向。本文提出了一种名为CloFormer的轻量级视觉Transformer，其核心思想是利用上下文感知的局部增强机制。CloFormer深入探讨了传统卷积操作中普遍采用的全局共享权重，与注意力机制中出现的、与特定token相关的上下文感知权重之间的关系，并据此设计了一种高效且简洁的模块，用于捕捉高频局部信息。在CloFormer中，我们引入了AttnConv——一种具有注意力风格的卷积算子。该算子采用共享权重来聚合局部特征信息，同时通过精心设计的上下文感知权重对局部特征进行增强。AttnConv与传统的注意力机制相结合，并借助池化操作降低计算量（FLOPs），使模型能够同时感知高频与低频信息。在图像分类、目标检测和语义分割等多个任务上的大量实验表明，CloFormer在保持轻量化的同时显著优于现有方法。相关代码已公开，获取地址为：\url{https://github.com/qhfan/CloFormer}。