热门标签
热门文章
- 1Android Studio音频视频播放器课程设计_androidstuiod做视频播放器需要用到什么技术
- 2firewalld：禁ping设置_icmp-block-inversion
- 3如何利用 GPT4创建引人注目的流程图_gpt 绘制流程图
- 4机器人机械臂抓取综述_机械臂平面抓取
- 5ros2 launch如何控制node的启动顺序_ros2 launch文件先后启动顺序
- 6Python之密码设置_python一个合格的密码应该符合下面规则: 密码至少有8个字符。 密码包括
- 7在19计算机考研炸掉的情况下，21计算机考研的难度会很大吗？
- 8嵌入式人工智能是一个怎样的概念呢？
- 9Python爬取淘宝商品评价信息实战_python 获取商品评论
- 10从 CoT 到 Agent，最全综述来了！上交出品_cot 大模型
当前位置: article > 正文
注意力机制（一）：Stacked Cross Attention for Image-Text Matching_堆叠交叉注意力机制图像文本匹配
作者：知新_RL | 2024-05-02 07:57:52
赞
踩
堆叠交叉注意力机制图像文本匹配
Motivation
1，上述研究没有考虑到图像区域和单词层面的潜在视觉语言对应。
2，我们将赋予不同权重的图像区域和单词作为推断图像-文本相似性的上下文。
Framework
- 首先，我们先考虑对整个句子施加注意力让整个句子去表示每个单独的区域，我们首先计算所有可能对的余弦相似矩阵：
sij表示第i个区域与第j个单词的相似性。
我们根据经验发现，将相似性限制在零是有益的，并且我们将相似矩阵归一化：
- 为了在每个图像区域上关注单词，我们定义一个单词表示的加权组合(即关于第i个图像区域的句子向量）
<
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/知新_RL/article/detail/522986
推荐阅读
相关标签
