深度学习常用公式及其实现_深度学习算法公式

作者：小小林熬夜学编程 | 2024-06-02 21:04:48

踩

深度学习算法公式

位置编码

在这里插入图片描述

#公式1
def get_positional_encoding(max_seq_len,embed_dim):
    #初始化一个positional encoding
    #embed_dim: 字嵌入维度
    #max_seq_len: 最大序列长度
    positional_encoding = np.array([[pos/np.power(10000,2*i/embed_dim) for i in range(embed_dim)]
                                    if pos != 0 else np.zeros(embed_dim) for pos in range(max_seq_len)])
    p1
2
3
4
5
6
7

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/小小林熬夜学编程/article/detail/664334