细节之PyTorch 中的 torch.ones([])

简介

torch.ones([]) 是 PyTorch 中用于生成标量张量的函数之一。它会创建一个包含一个元素且值为1的标量张量，通常用于表示单个数值，比如损失函数的值或者模型的参数初始化值。

用法示例

import torch

# 创建一个包含一个元素且值为1的标量张量
scalar_tensor = torch.ones([])

print(scalar_tensor)
1
2
3
4
5
6

这段代码会生成一个标量张量 scalar_tensor，其值为1。

参数说明

torch.ones([]) 中的空列表 [] 用于指定张量的形状，对于标量张量来说，形状为空列表即可。如果需要创建其他形状的张量，可以在空列表中传入相应的维度，如 torch.ones([2, 3]) 用于生成一个2x3的张量。

示例代码

import numpy as np
import torch
import torch.nn as nn

div_value = 1 / 0.07

log_value = np.log(div_value)

ones_value = torch.ones([])

print(f"div_value is {div_value},log_value is {log_value},ones is {ones_value}")

param_value = nn.Parameter(torch.ones([]) * np.log(1 / 0.07)).exp()

print(param_value)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

注意事项

• torch.ones([]) 创建的标量张量会被初始化为1。
• 在神经网络中，标量张量通常用于表示损失函数的值或者模型的参数初始值。