Tensor存储结构如下，

如图所示，实际上很可能多个信息区对应于同一个存储区，也就是上一节我们说到的，初始化或者普通索引时经常会有这种情况。

一、几种共享内存的情况

view

a = t.arange(0,6)
print(a.storage())
b = a.view(2,3)
print(b.storage())
print(id(a.storage())==id(b.storage()))
a[1] = 10
print(b)

上面代码，我们通过.storage()可以查询到Tensor所对应的storage地址，可以看到view虽然不是inplace的，但也仅仅是更改了对同一片内存的检索方式而已，并没有开辟新的内存：

 0.0
 1.0
 2.0
 3.0
 4.0
 5.0
[torch.FloatStorage of size 6]
 0.0
 1.0
 2.0
 3.0
 4.0
 5.0
[torch.FloatStorage of size 6]
True

  0  10   2
  3   4   5
[torch.FloatTensor of size 2x3]

简单索引

注意，id(a.storage())==id(c.storage()) != id(a[2])==id(a[0])==id(c[0])，id(a)！=id(c)

c = a[2:]
print(c.storage())  # c所属的storage也在这里
print(id(a[2]), id(a[0]),id(c[0]))  # 指向了同一处
print(id(a),id(c))
print(id(a.storage()),id(c.storage()))

 0.0
 10.0
 2.0
 3.0
 4.0
 5.0
[torch.FloatStorage of size 6]
2443616787576 2443616787576 2443616787576
2443617946696 2443591634888
2443617823496 2443617823496

通过Tensor初始化Tensor

d = t.Tensor(c.storage())
d[0] = 20
print(a)
print(id(a.storage())==id(b.storage())==id(c.storage())==id(d.storage()))

 20
 10
  2
  3
  4
  5
[torch.FloatTensor of size 6]

True

二、内存检索方式查看

storage_offset()：偏移量stride()：步长，注意下面的代码，步长比我们通常理解的步长稍微麻烦一点，是有层次结构的步长

print(a.storage_offset(),b.storage_offset(),c.storage_offset(),d.storage_offset())
e = b[::2,::2]
print(id(b.storage())==id(e.storage()))
print(b.stride(),e.stride())
print(e.is_contiguous())
f = e.contiguous()  # 对于内存不连续的张量，复制数据到新的连续内存中
print(id(f.storage())==id(e.storage()))
print(e.is_contiguous())
print(f.is_contiguous())
g = f.contiguous()  # 对于内存连续的张量，这个操作什么都没做
print(id(f.storage())==id(g.storage()))

高级检索一般不共享stroage，这就是因为普通索引可以通过修改offset、stride、size实现，二高级检索出的结果坐标更加混乱，不方便这样修改，需要开辟新的内存进行存储。

原文地址：https://www.cnblogs.com/hellcat/p/8445372.html