一、安装Anaconda
Anaconda是Python发行包，包含了很多Python科学计算库。它是比直接安装Python更好的选择。
二、安装Tensorflow
如果安装了tensorflow，默认是CPU版的，要想安装GPU版的，必须先pip uninstall tensorflow卸载干净之后，再使用pip install tensorflow-gpu来安装。
tensorflow CPU版比较简单，安装之后直接运行就可以。
tensorflow GPU版需要依赖CUDA，具体安装见下文。
三、CUDA和cudnn的安装
GPU是并行计算中必不可少的东西，在这一领域Nvdia处于领先地位。神经网络这种计算量巨大、适合并行化，正是需要GPU的场景。
Tensorflow GPU版依赖CUDA，而cudnn是连接tensorflow和CUDA的纽带。所以需要去Nvdia官网上下载CUDA和cudnn。CUDA安装包比较大，大概1G多；cudnn安装包下载前需要注册用户填写调查问卷。需要注意的是，CUDA和cudnn的版本必须得匹配。
另外，Tensorflow用到的cudnn库可能不是最新的，所以如果下载最新版的cudnn很有可能tensorflow无法识别。
下载完cudnn之后，解压得到三个文件夹bin、include、lib，将其覆盖复制粘贴到CUDA的安装目录下即可。
要想让tensorflow看见cudnn.dll，就要让CUDA的bin目录添加到PATH环境变量中去。
CUDA安装完成后，需要重启电脑。
可能遇到的异常
Cannot remove entries from nonexistent file c:anacondalibsite-packageseasy-install.pth
解决方案
pip install --upgrade --ignore-installed setuptools
Blas SGEMM launch failed
解决方案：关闭其他Python交互窗口