深度学习--激活函数之sigmoid激活函数_sigmoid激活函数公式

1.简介

激活函数是深度神经网络中每一个神经元线性加权计算结果的非线性处理，赋予神经网络非线性映射能力。每一种激活函数都有不同的功能，本篇主要介绍sigmoid激活函数。
sigmoid激活函数应该是深度神经网络最先使用的激活函数，主要用于逻辑回归（logistic regression），实现二分类功能。sigmoid函数的公式如下：
$$S(x)=\frac{1}{1+e^{-x}}$$
sigmoid函数y值的取值范围是（0,1）。

4.pytorch代码

import torch
import torch.nn.functional as F
import matplotlib.pyplot as plt

x=torch.linspace(-5,5,200) #制造数据，-5~5之间等距离取200个点作为x坐标值
x_np=x.numpy() #tensor转成numpy形式
y_sigmoid=torch.sigmoid(x).numpy() #用sigmoid函数求值

plt.plot(x_np,y_sigmoid,c='red',label='sigmoid') #画图
plt.ylim(-0.2,1.2)
plt.legend(loc='best')
plt.show()
1
2
3
4
5
6
7
8
9
10
11
12

5.效果