CUDA[2] Hello,World

Section 0：Hello,World

这次我们亲自尝试一下如何用粗(CU)大(DA)写程序

CUDA最新版本是7.5，然而即使是最新版本也不兼容VS2015 。。。推荐使用VS2012

进入VS2012，新建工程，选择NVIDIA--CUDA Runtime

我们来写一个简单的向量加法程序：[Reference]

#include <stdio.h>

__global__ void saxpy(int n, float a, float *x, float *y)   
//__global__关键字，表示是将要在GPU里并行运行的核函数
{
  int i = blockIdx.x*blockDim.x + threadIdx.x;
  if (i < n) 
    y[i] = a*x[i] + y[i];
}

int main()
{
  int N = 10;
  float *x, *y, *d_x, *d_y;             //都是指针，指向数组所在的内存/显存空间
  x = (float*)malloc(N*sizeof(float));  //在内存中为x,y分配空间
  y = (float*)malloc(N*sizeof(float));

  cudaMalloc(&d_x, N*sizeof(float));    //在显存中为d_x,d_y分配空间
  cudaMalloc(&d_y, N*sizeof(float));

  for (int i = 0; i < N; i++) 
  {
    x[i] = (float)i;
    y[i] = 2.0f;
  }

  cudaMemcpy(d_x, x, N*sizeof(float), cudaMemcpyHostToDevice);  
  cudaMemcpy(d_y, y, N*sizeof(float), cudaMemcpyHostToDevice);
  //将内存中x,y指向的数组空间拷贝到显存中d_x,d_y指向的数组空间

  saxpy<<<1,N>>>(N, 10.0f, d_x, d_y);
  //1个block，每个block里N个thread

  cudaMemcpy(y, d_y, N*sizeof(float), cudaMemcpyDeviceToHost);  
  //将显存中计算好的d_y指向的数组空间拷贝到内存中y指向的数组空间

  for (int i = 0; i < N; i++)
    printf("%d  %.3f
",i,y[i]);

  getchar();
}

运行后就会出结果啦~

Section 1：一个好一点的代码风格

虽然刚才的程序已经能运行了，但是讲道理的话把所有的代码都写到cu文件里是很屎的风格。。。

下面再来写一个向量加法的程序：[Ref]

/*  kernel.cu   */
//cuda系函数必须放在cu文件里
#include "cuda_runtime.h"
#include "device_launch_parameters.h"

#include <stdio.h>

__global__ void addKernel(int *c, const int *a, const int *b)
{
    int i = threadIdx.x;
    c[i] = a[i] + b[i];
}

//cpp中不能直接调用核函数，所以在cu文件中还得写一个接口，负责分配内存等
void addWithCuda(int *c, const int *a, const int *b, unsigned int size)
{
    int *dev_a = 0;
    int *dev_b = 0;
    int *dev_c = 0;

    // Choose which GPU to run on, change this on a multi-GPU system.
    cudaSetDevice(0);

    // Allocate GPU buffers for three vectors (two input, one output)    .
    cudaMalloc((void**)&dev_c, size * sizeof(int));
    cudaMalloc((void**)&dev_a, size * sizeof(int));
    cudaMalloc((void**)&dev_b, size * sizeof(int));

    // Copy input vectors from host memory to GPU buffers.
    cudaMemcpy(dev_a, a, size * sizeof(int), cudaMemcpyHostToDevice);
    cudaMemcpy(dev_b, b, size * sizeof(int), cudaMemcpyHostToDevice);

    // Launch a kernel on the GPU with one thread for each element.
    addKernel<<<1, size>>>(dev_c, dev_a, dev_b);

    // Copy output vector from GPU buffer to host memory.
    cudaMemcpy(c, dev_c, size * sizeof(int), cudaMemcpyDeviceToHost);

    cudaFree(dev_c);
    cudaFree(dev_a);
    cudaFree(dev_b);
    cudaDeviceReset();
}

//-------------------------------------------------------------------------------
/* Source.cpp  */
#include"cstdio"
#include"cstring"

extern void addWithCuda(int *c, const int *a, const int *b, unsigned int size);
//.cpp是由C编译器来编译的。C编译器里不允许#include一个cu文件（不资词）
//若要引用cu里的函数，在main.cpp里外部extern声明一下，让VS转为NVCC编译器处理。

int main()
{
    const int arraySize = 5;
    const int a[arraySize] = { 1, 2, 3, 4, 5 };
    const int b[arraySize] = { 10, 20, 30, 40, 50 };
    int c[arraySize] = { 0 };

    addWithCuda(c, a, b, arraySize);

    printf("{1,2,3,4,5} + {10,20,30,40,50} = {%d,%d,%d,%d,%d}
",
        c[0], c[1], c[2], c[3], c[4]);

    getchar();

    return 0;
}

补充：对于一些计算量较大（GPU计算时间较长）的程序，有可能运行很短时间之后就崩溃掉，并出现“显卡驱动已停止”的提示。

这是因为驱动程序默认认为GPU只负责图形计算任务，如果有任务长时间占用GPU就会自动terminate掉。

解决方法如下：[Ref]

进入注册表->HKEY_LOCAL_MACHINE->System->CurrentControlSet->Control->GraphicsDrivers

新建DWORD键TdrLevel，键值为0。保存重启即可。

Section 2：还是要学习一个

下面系统介绍一下粗大里的关键字和规则：

[Ref]

__global__：kernel函数。在device（GPU）里运行。可以在host（CPU处的主程序）调用

__device__：只允许在device运行，在device调用

__constant__：constant memory，表示常量

__shared__：shared memory，block内共享的变量