RuntimeError: CUDA error: an illegal memory access was encountered
出错情况Linear和BN操作时,参与计算的张量尺寸过大
解决方法参考 OpenPCDet
- Linear
分割Part进行。 - BN
BN操作前关闭cudnn,结束后打开cudnn
说明:本质是由于cudnn导致,全程关闭cudnn能解决该问题,但是训练速度会变慢。因此可以只在BN操作时关闭cudnn。
RuntimeError: CUDA error: an illegal memory access was encountered
出错情况Linear和BN操作时,参与计算的张量尺寸过大
解决方法参考 OpenPCDet
说明:本质是由于cudnn导致,全程关闭cudnn能解决该问题,但是训练速度会变慢。因此可以只在BN操作时关闭cudnn。