PyTorch中的形状变换术：reshape、view与permute的区别与联系

在PyTorch中，reshape、view 和 permute 都是用于改变张量（Tensor）形状（shape）的方法，但它们各自的功能和用途有所不同。

1. view:

   • view方法用于将张量重新整形为具有指定形状的张量。
   • 使用view时，必须确保新形状与原张量的元素总数（即numel()）一致。
   • 如果原张量在内存中是连续的（contiguous），那么view操作会很快，并且不需要复制数据。如果原张量不是连续的，PyTorch会尝试将其变为连续的，如果失败则会抛出一个错误。
   • 示例：x.view(a, b) 将张量x重新整形为形状为(a, b)的新张量。

2. reshape:

   • reshape在功能上与view非常相似，也是用于改变张量的形状。
   • 与view不同的是，reshape会尝试自动处理非连续的内存问题，这可能涉及数据的复制。
   • 在PyTorch中，官方推荐使用view而不是reshape，因为view通常更高效且更直接。

3. permute:

   • permute方法用于改变张量各维度之间的顺序，而不改变其形状或元素总数。
   • 它接受一个包含维度索引的元组，并返回一个新的张量，该张量的维度顺序与给定索引相对应。
   • 示例：x.permute(2, 0, 1) 将一个形状为(a, b, c)的张量x重新排列为形状为(c, a, b)的新张量。

总结：

• view和reshape都用于改变张量的形状，但view更直接且更推荐。
• permute用于改变张量维度的顺序，而不改变其形状。

在PyTorch中，根据具体需求选择适当的方法非常重要。如果你只是想改变张量的形状，并且确定张量是连续的，那么view通常是最合适的选择。如果你需要改变维度的顺序，那么应该使用permute。如果你不确定张量是否连续，或者想要一个更通用的解决方案来处理形状的改变，那么可以使用reshape，但请注意它可能涉及数据的复制。