CUDA API包括三个，从低到高等级分别为 Thrust API Runtime API Driver API
用于CUDA的GPU是安装于主机系统中的独立设备
GPGPU运行在一个和主处理器相隔离的存储空间中
CUDA Kernel是可在主机代码中调用而在CUDA设备上运行的子程序（Kernel没有返回值）
Kernel的调用时异步的，即主机仅仅把要执行的Kernel顺序提交给GPGPU，并不等待执行完成，然后直接处理后面的其他任务
cudaThreadSynchronize() 使主机进入阻塞状态
cudaMemory() 实现阻塞式数据传输
GPU上的基本运行单位是线程
GPU上最大的可共享的内存区域成为全局内存
常量内存、高速缓存、共享内存、局域内存、纹理内存、寄存器
GPGPU编程的三条法则
1 将数据放入病始终存储于GPGPU
pcie总线速度大概是8gb/s，而GPU全局内存的速度大概是160-200gb/s
2 交给GPGPU足够多的任务
传输数据还要消耗时间，因此，最好让GPU工作时间能补偿传输所浪费的资源
3 注重GPGPU上的数据重用，以避免带宽限制
尽量重用数据以获取高性能
回归测试：经常用一段代码作为回归测试，测试kernel函数的正确性