热门标签
热门文章
- 1SpringBoot集成自然语言处理hanlp工具包_springboot 集成hanlp
- 2【GlobalMapper精品教程】022：根据一个字段属性值批量计算另一个字段属性值（地类名称求地类编码）_arcgis 计算 不同编码
- 3【AcWing】蓝桥杯集训每日一题Day14|Flood Fill|洪水灌溉算法|DFS|并查集|687.扫雷(C++)
- 4【Hadoop】Hadoop车辆数据存储_基于hadoop的公共自行车数据分布式存储和计算
- 5Django高级扩展之中间件
- 6头歌 实验六 java输入输出_本关任务:从文件读取一篇英语文章,然后统计26个英文字母出现的次数。
- 7【无标题】嘻嘻嘻嘻嘻嘻嘻_max_energy_0 = torch.max(energy, -1, keepdim=true)
- 8机器翻译评测----BLEU算法_bleu机器翻译
- 9【python】flask模板渲染引擎Jinja2，流程控制语句与过滤器的用法剖析与实战应用
- 10测试人员前期参与设计方案时需要注意什么？
当前位置: article > 正文
论文笔记：Cross -Scale Self-Attention Module(CSSA)：跨尺度自注意力模块
作者：weixin_40725706 | 2024-04-02 23:02:31
赞
踩
论文笔记：Cross -Scale Self-Attention Module(CSSA)：跨尺度自注意力模块
网络原理及流程：
CSSA模块包括注意力模块和特征融合模块。网络中与正常的注意力模块不同之处是利用特征融合将深层特征向量作为Q和K的输入，将浅层特征向量作为V的输入，这种方式通过深层特征之间的高语义相关性来丰富增强浅层的特征。
ResNet 50 中的第i阶段的最后模块产出为Xi（C*H·W）， 首先经过一系列的卷积核为3的卷积变换压缩特征块为（256*H·W）为Xi’，接Xi下来Xi’在空间上被分成向量Xi’’,对于最深特征Xi’’通过注意力模块得到,此时的深层作为向上的K和Q，浅层的特征作为V，先进性特征融合，后进入注意力模块进一步增强获得Ai。
网络结构图如下：
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/weixin_40725706/article/detail/353980
推荐阅读
相关标签
