07—《动手学深度学习——Pytorch版》—多层感知机_动手学深度学习pytorch

---

前言

我们可以通过在网络中加入一个或多个隐藏层来克服线性模型的限制， 使其能处理更普遍的函数关系类型。 要做到这一点，最简单的方法是将许多全连接层堆叠在一起。 每一层都输出到上面的层，直到生成最后的输出。 我们可以把前 $L-1$ 层看作表示，把最后一层看作线性预测器。 这种架构通常称为多层感知机（multilayer perceptron），通常缩写为MLP。

---

感知机

多层感知机

多层感知机的从零开始实现

与之前softmax回归获得的结果进行比较，我们将继续使用Fashion-MNIST图像分类数据集

import torch
from torch import nn
from d2l import torch as d2l

batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)
1
2
3
4
5
6

初始化模型参数

回想一下，Fashion-MNIST中的每个图像由 $28\times 28=784$ 个灰度像素值组成。 所有图像共分为10个类别。 忽略像素之间的空间结构， 我们可以将每个图像视为具有784个输入特征 和10个类的简单分类数据集。 首先，我们将实现一个具有单隐藏层的多层感知机， 它包含256个隐藏单元。 注意，我们可以将这两个变量都视为超参数。 通常，我们选择2的若干次幂作为层的宽度。 因为内存在硬件中的分配和寻址方式，这么做往往可以在计算上更高效。

我们用几个张量来表示我们的参数。 注意，对于每一层我们都要记录一个权重矩阵和一个偏置向量。 跟以前一样，我们要为损失关于这些参数的梯度分配内存。

num_inputs, num_outputs, num_hiddens = 784, 10, 256

# torch.nn.Parameter()将一个不可训练的tensor转换成可以训练的类型parameter，并将这个parameter绑定到这个module里面。即在定义网络时这个tensor就是一个可以训练的参数了。
W1 = nn.Parameter(torch.randn(
    num_inputs, num_hiddens, requires_grad=True) * 0.01)  # w1 = 784 * 256
b1 = nn.Parameter(torch.zeros(num_hiddens, requires_grad=True))  # b1为长度为256的全0张量
W2 = nn.Parameter(torch.randn(
    num_hiddens, num_outputs, requires_grad=True) * 0.01)  # w2 = 256 * 10
b2 = nn.Parameter(torch.zeros(num_outputs, requires_grad=True))  # b1为长度为10的全0张量

params = [W1, b1, W2, b2]
1
2
3
4
5
6
7
8
9
10
11

激活函数

为了确保我们对模型的细节了如指掌， 我们将实现ReLU激活函数， 而不是直接调用内置的relu函数。

def relu(X):
    a = torch.zeros_like(X)  # 创建与X形状相同的全0张量a
    return torch.max(X, a)  # 比较X与a的大小
1
2
3

模型

因为我们忽略了空间结构， 所以我们使用reshape将每个二维图像转换为一个长度为num_inputs的向量。 只需几行代码就可以实现我们的模型。

def net(X):
    X = X.reshape((-1, num_inputs))  # 把X转化为batch_size * 784 的张量
    H = relu(X@W1 + b1)  # 这里“@”代表矩阵乘法
    return (H@W2 + b2)
1
2
3
4

损失函数

由于我们已经从零实现过softmax函数， 因此在这里我们直接使用高级API中的内置函数来计算softmax和交叉熵损失。

loss = nn.CrossEntropyLoss(reduction='none')  # CrossEntropyLoss <==> LogSoftmax + NLLLoss
1

训练

幸运的是，多层感知机的训练过程与softmax回归的训练过程完全相同。 可以直接调用d2l包的train_ch3函数， 将迭代周期数设置为10，并将学习率设置为0.1.

num_epochs, lr = 10, 0.1  # 训练10轮，学习率为0.1
updater = torch.optim.SGD(params, lr=lr)  # 随机梯度下降优化器，优化参数为params
d2l.train_ch3(net, train_iter, test_iter, loss, num_epochs, updater)
1
2
3

---

为了对学习到的模型进行评估，我们将在一些测试数据上应用这个模型。

小结

• 手动实现一个简单的多层感知机是很容易的。然而如果有大量的层，从零开始实现多层感知机会变得很麻烦（例如，要命名和记录模型的参数）。

---

多层感知机简洁实现

本节将介绍通过高级API更简洁地实现多层感知机。

import torch
from torch import nn
from d2l import torch as d2l
1
2
3

模型

与softmax回归的简洁实现相比，唯一的区别是我们添加了2个全连接层（之前我们只添加了1个全连接层）。 第一层是隐藏层，它包含256个隐藏单元，并使用了ReLU激活函数。 第二层是输出层。

net = nn.Sequential(nn.Flatten(),  # 将图像平铺成(batch_size, 784)，Flatten默认从第1个维度到最后一个维度平铺
                    nn.Linear(784, 256),
                    nn.ReLU(),
                    nn.Linear(256, 10))

def init_weights(m):
    if type(m) == nn.Linear:  # 检查传入的模块m是否是nn.Linear类型的层
        nn.init.normal_(m.weight, std=0.01)  # 将模块m的参数w重赋值为均值为0，方差为1的正态分布
# apply方法对模型中的每个模块（层）应用init_weights函数。这意味着init_weights函数将被递归地应用于net中定义的每一个层，包括nn.Flatten()和nn.Linear(784, 10)。
net.apply(init_weights);
1
2
3
4
5
6
7
8
9
10

训练过程的实现与我们实现softmax回归时完全相同， 这种模块化设计使我们能够将与模型架构有关的内容独立出来。

小结

• 我们可以使用高级API更简洁地实现多层感知机。
• 对于相同的分类问题，多层感知机的实现与softmax回归的实现相同，只是多层感知机的实现里增加了带有激活函数的隐藏层。