ViT中的attention可视化_vit可视化

作者：秋刀鱼在做梦 | 2024-06-28 00:36:35

踩

vit可视化

飞机的attention

ViT论文中使用的可视化attention的方法是Attention Rollout。这个方法来自与Quantifying Attention Flow in Transformers。Jacob Gildenblat写了个blog介绍了这个方法和实现。
另外一个方法来自于Transformer Interpretability Beyond Attention Visualization.效果图如下所示：
在这里插入图片描述

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/秋刀鱼在做梦/article/detail/764385