【中英字幕】Andrej Karpathy | 详解神经网络和反向传播（基于micrograd）- 知识点目录_andrej karpathy公开课

【中英字幕】Andrej Karpathy | 详解神经网络和反向传播（基于micrograd）

00:00:00 介绍
00:00:25 micrograd概述
00:08:08 只有一个输入的简单函数的导数
00:14:12 具有多个输入的简单函数的导数
00:19:09 启动 micrograd 核心 Value 对象及其可视化的方法
00:32:10 手动反向传播示例 1 ：简单表达式
00:51:10 预览单个优化步骤
00:52:52 手动反向传播示例 2 ：单个神经元
01:09:02 为单个操作实现反向传播
01:17:32 为整个表达式图实现反向传播
01:22:28 修复一个节点多次出现的反向传播 bug
01:27:05 使用更多操作替换 tanh 激活函数
01:39:31 在PyTorch中实现上述操作并与 micrograd 进行比较
01:43:55 用micrograd构建一个神经网络库（MLP）
01:51:04 创建一个微型数据集，编写损失函数
01:57:56 收集神经网络的所有参数
02:01:12 手动进行梯度下降优化，训练网络
02:14:03 总结，及如何走向现代神经网络
02:16:46 github上micrograd的完整代码
02:21:10 PyTorch 中 tanh 激活函数的反向传播机制
02:24:39 结语
02:25:20 花絮 声明：本文内容由网友自发贡献，转载请注明出处：【wpsshop】