当前位置:   article > 正文

激活函数:logistic、Tanh、Relu、leaky relu、ELU的图像及python绘制代码_三种激活函数绘图代码python

三种激活函数绘图代码python
  1. #绘制激活函数代码
  2. import numpy as np
  3. import matplotlib.pyplot as plt
  4. # 定义激活函数
  5. def logistic(x):
  6. return 1 / (1 + np.exp(-x))
  7. def tanh(x):
  8. return np.tanh(x)
  9. def relu(x):
  10. return np.maximum(0, x)
  11. def leaky_relu(x, alpha=0.01):
  12. return np.where(x >= 0, x, alpha * x)
  13. def elu(x, alpha=1.0):
  14. return np.where(x >= 0, x, alpha * (np.exp(x) - 1))
  15. # 绘制激活函数图像
  16. x = np.linspace(-10, 10, 1000)
  17. # Logistic
  18. plt.figure(figsize=(6, 4))
  19. plt.plot(x, logistic(x), label='Logistic')
  20. plt.plot(x, tanh(x), label='Tanh')
  21. #plt.title('Logistic Activation Function')
  22. plt.title('Logistic & Tanh')
  23. plt.xlabel('x')
  24. plt.ylabel('f(x)')
  25. plt.legend()
  26. plt.grid(True)
  27. plt.show()
  28. # Tanh
  29. plt.figure(figsize=(6, 4))
  30. plt.plot(x, tanh(x), label='Tanh')
  31. plt.title('Tanh Activation Function')
  32. plt.xlabel('x')
  33. plt.ylabel('f(x)')
  34. plt.legend()
  35. plt.grid(True)
  36. plt.show()
  37. # ReLU
  38. plt.figure(figsize=(6, 4))
  39. plt.plot(x, relu(x), label='ReLU')
  40. plt.title('ReLU Activation Function')
  41. plt.xlabel('x')
  42. plt.ylabel('f(x)')
  43. plt.legend()
  44. plt.grid(True)
  45. plt.show()
  46. # Leaky ReLU
  47. plt.figure(figsize=(6, 4))
  48. plt.plot(x, leaky_relu(x), label='Leaky ReLU')
  49. plt.title('Leaky ReLU Activation Function')
  50. plt.xlabel('x')
  51. plt.ylabel('f(x)')
  52. plt.legend()
  53. plt.grid(True)
  54. plt.show()
  55. # ELU
  56. plt.figure(figsize=(6, 4))
  57. plt.plot(x, elu(x), label='ELU')
  58. plt.title('ELU Activation Function')
  59. plt.xlabel('x')
  60. plt.ylabel('f(x)')
  61. plt.legend()
  62. plt.grid(True)
  63. plt.show()

 

 

 

 

 

 

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/你好赵伟/article/detail/156621
推荐阅读
相关标签
  

闽ICP备14008679号