**ResourceExhaustedError
该模型在运行过程中使用GPU资源的时候,GPU资源枯竭了

原因

1. batchsize太大，这种只需要将batchsize减小就行了
2. GPU的显存太小，或者剩余的显存太少了

办法

减小batch size

开始batch size设成80，在靠前的节点处停了下来，后来改成64，在靠后的几个节点又内存耗尽停了下来

最后改成batch_size=2后，成功开始训练（当然我改得有点过，2的话也就成了随机梯度，只是为了试验）

换内存更大的GPU

人民币玩家呗，这没什么好说

但是我的GPU是6G的1660，
还没走完一个forward propagation就爆掉啊，我爆掉的层还是靠前的几个层，想不通？