GPU（graphicalprocessingunit）是显卡内用于图形处理的器件。和CPU相比，CPU是串行执行，而GPU是多个核并行执行。GPU是一个高性能的多核处理器，有很高的计算速度和数据吞吐率。在GPU上的运算能获得相对于CPU而言很高的加速比。第一、第二代GPU出现的时候，GPU不是可编程的[4]。当第三代GPU出现的时候，GPU开始用于图形编程，研究者们给GPU烧制程序，进行图像处理。GPU的并行流处理能力吸引了并行计算的研究者，研究者们借助图形编程的概念，把计算操作转化成图形纹理操作。这个时候GPU计算，需要对图形概念有比较深的了解，编程比较复杂。第四代GPU以NVIDIA

GPU内存和线程等关系 Thread 线程私有 Local Memory Block 每个block Shared Memory . . . . . . Kernel 0 每个设备共有的 Global Memory Kernel 1 Sequential Kernels 设备(GPU0) 存储器 设备(GPU1) 存储器 主机端 存储器 cudaMemcpy()