当前位置:   article > 正文

PyTorch学习笔记:nn.Sigmoid——Sigmoid激活函数

nn.sigmoid

PyTorch学习笔记:nn.Sigmoid——Sigmoid激活函数

torch.nn.Sigmoid()
  • 1

功能:逐元素应用Sigmoid函数对数据进行激活,将元素归一化到区间(0,1)内

函数方程:
S i g m o i d ( x ) = σ ( x ) = 1 1 + e − x Sigmoid(x)=\sigma(x)=\frac1{1+e^{-x}} Sigmoid(x)=σ(x)=1+ex1

在这里插入图片描述

上图来源于PyTorch官方文档

输入:

  • inplace:是否改变输入数据,如果设置为True,则会直接修改输入数据;如果设置为False,则不对输入数据做修改

注意:

  • 输入可以是任意尺寸的数据,输出尺寸与输入尺寸相同

代码案例

一般用法

import torch.nn as nn
import torch
a = torch.randn(10)
sigmoid = nn.Sigmoid()
b = sigmoid(a)
print(a)
print(b)
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7

输出

# 数据经过sigmoid之前
tensor([-0.0175, -0.3315, -1.4424, -2.1318,  1.8448, -0.6835, -1.9436,  1.3432, 0.2550,  1.1898])
# 数据经过sigmoid之后
tensor([0.4956, 0.4179, 0.1912, 0.1060, 0.8635, 0.3355, 0.1252, 0.7930, 0.5634, 0.7667])
  • 1
  • 2
  • 3
  • 4

官方文档

nn.Sigmoid():https://pytorch.org/docs/stable/generated/torch.nn.Sigmoid.html#torch.nn.Sigmoid

初步完稿于:2022年1月29日

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Cpp五条/article/detail/205944
推荐阅读
相关标签
  

闽ICP备14008679号