热门标签
热门文章
- 1蓝桥杯必刷题_在一座长度为l的独木桥,独木桥上有l个坐标,分别为1,2,...,l。现在桥上有n个人,每
- 2【postgresql 基础入门】事物transaction的开启，提交，回滚命令，自动提交设置_pg数据库自动提交
- 3微信小程序实战:无痛集成腾讯地图服务
- 4活动报名｜大模型的推理能力究竟由什么决定
- 5python文本数据分析作业分享案例_python文本分析案例
- 6Suggestion: add 'tools:replace="android:name"' to element at AndroidManifest.xml
- 7ubuntu 下 opencv的安装以及配置（亲测有效）_ubuntu安装opencv
- 89、技巧之二：Firefox文件上传和自动下载 【Selenium+Python3网页自动化总结】_selenium 火狐
- 9GPT的发展历程_gpt的历史
- 10【AIGC调研系列】通过流量收集工具和AIGC生成自动化测试脚本_aigc 自动化测试
当前位置: article > 正文
Pytorch学习06——感知机
作者：2023面试高手 | 2024-03-28 00:02:34
赞
踩
Pytorch学习06——感知机
1、梯度
- 前向传播：得到所有层输出
后向传播：得到输出对参数的梯度表达式，表达式中含有各层输出，代入可得梯度值
2、感知机
- 单层：input@w，得到结果后通过激活函数得到output，然后mse为output与label差值平方（一般再取二分之一，为了好求导）
- 多层：可能有多个层级，每一层有多个神经元，对应参数也会有更高维度
3、链式法则
4、MLP(Multilayer Perceptron)反向传播
- 简单总结：参数w上层记为i，下层记为j。
- 简单理解即 j = w*i
- 则损失函数对于参数的导数 = i * f ( j )
- f ( j )是j的函数，可以通过前向传播得到结果，i值也可求
- 所以损失函数对于所有参数的导数可求
- 特别：下图中用到的激活函数是sigmoid函数
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/2023面试高手/article/detail/327647
推荐阅读
相关标签
