一句话理解到底神经网络中的GPU内存占用率与利用率

分类: 文章 • 2024-07-19 19:32:34

占有率：与网络的大小以及batch size有关
利用率：对于从CPU送来的数据进行处理
可以在终端输入：nvidia-smi
得到下图：
一句话理解到底神经网络中的GPU内存占用率与利用率
GPU内存占用率（Memory-Usage），GPU利用率（GPU-util）