CUDA优化--核函数--浮点数类型转换
在编写CUDA内核时,遇到一个问题,如下在核函数中使用一个2.1的浮点数,没有作类型声明,如(float)2.1或double(2.1)..
一. 实际上,cuda默认2.1是double,在核函数计算过程中进行了类型转换,流水线中arithmetic workload和单精度的计算峰值的分析结果如下:
好吃惊!!!43.98%用于FloatP64转换,35%用于数值计算,浪费太严重,峰值性能只有114.83GFlops。
内核的执行时间约为6000微妙左右。
二. 于是乎,提前对数据类型进行了声明,新的分析结果如下:
流水线中的类型转换被消除,峰值性能提身高300GFlops。内核的执行时间降低至2500微妙左右。
花了好几天的时间才注意到这个问题,还在那使劲地作访存优化,嘴上笑嘻嘻,心里MMP。。。