CUDA基本概念

CUDA线程结构的三个重要概念:Grid,Block,Thread,三者关系如图:

Block和Thread的结构可以是一维,二维或者三维,以下Block,Thread结构分别是二维和三维。

CUDA基本概念

下表是不同计算能力的GPU的技术指标:

CUDA基本概念

每个thread有一份register和local memory空间;同一block共享一份share memory;同一grid的所有block的所有thread共享一份global memory,constant memory, 和texture memory;不同grid各自有自己的global memory, constant memory和texture memory。