详解可变形留意力模块（Deformable Attention Module）

Deformable Attention（可变形留意力）起首在2020年10月初商汤研究院的《Deformable DETR: Deformable Transformers for End-to-End Object Detection》论文中提出，在2022CVPR中《Vision Transformer with Deformable Attention》提出应用了Deformable Attention（可变形自留意力）机制的通用视觉Transformer骨干网络DAT（Deformable Attention Transformer），而且在多个数据集上效果优于swin transformer。
  在BEV感知算法中，好比DETR3d，BEVFormer等，均接纳的是前者中提出的Deformable Attention。具体的维度及细节分析参考博客《Deformable DETR 原理分析》及微信公众号文《搞懂 Vision Transformer 原理和代码，看这篇技能综述就够了（二）》。
                         
  

来源：https://blog.csdn.net/qq_23981335/article/details/129123581
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！