在Ubuntu 18.04上配置CPU深度学习环境

前言

萌新打算在自己的Ubuntu 18.04上配个简易的单机深度学习环境，不成想这耗费了两整天加一个半天的时间，深感入门困难……

我的电脑没有GPU，因此我这个安装流程是不支持GPU，只支持CPU，仅是个供新人简单上手，练手用的环境

如果你有GPU还是用GPU的，毕竟要比CPU快很多……

以及，我一开始是没有装Anacoda 和 Docker 的，受沉没成本影响，我也就一直没装，就这么头铁装下去了，如果你愿意，请在最开始就装个Anacoda或Docker之类的东西，这样比较方便（很多报错直接用conda install就能解决了，而不用像我一样探索许久）

本博客安装内容有：

Python科学套件（BLAS、Numpy、Scipy、Matplotlib、HDF5、Graphviz、pydot-ng、python-opencv），Tensorflow，theano，Keras

安装内容不含Anacoda、CUDA、cuDNN

我永远喜欢配环境.jpg

配置流程

前置准备：pip/pip3

依次执行以下命令以确认安装了pip，确认所有的包都是最新的

sudo apt-get update

sudo apt-get upgrade

如果采用python2：sudo apt-get install python-pip python-dev

如果采用python3：sudo apt-get install python3-pip python3-dev

安装python科学套件

1. 安装 BLAS 库(这里安装的是 OpenBLAS)，确保你可以在 CPU 上运行快速的张量运算

sudo apt-get install build-essential cmake git unzip

pkg-config libopenblas-dev liblapack-dev

2. 安装 Python 科学套件:Numpy、SciPy 和 Matplotlib。无论是否做深度学习,如果想要使用 Python 进行任意类型的机器学习或科学计算,这一步都是必需的。

sudo apt-get install python-numpy python-scipy python-matplotlib python-yaml

3. 安装 HDF5。这个库最初由 NASA(美国国家航空航天局)开发,用高效的二进制格式来保存数值数据的大文件。它可以让你将 Keras 模型快速高效地保存到磁盘。

sudo apt-get install libhdf5-serial-dev python-h5py

4. 安装 Graphviz 和 pydot-ng,这两个包可以将 Keras 模型可视化。

sudo apt-get install graphviz

sudo pip install pydot-ng

5. 安装某些代码示例中用到的其他包。

sudo apt-get install python-opencv

安装Tensorflow

这一小节记录了我踩的坑（装tensorflow我就装了整整的一天），如果你还没有安装Tensorflow，想要直接安装，请直接看“4. ”即可

1. 安装不支持GPU，只支持CPU的Tensorflow命令如下：

sudo pip install tensorflow

但是实际执行的时候发现这个网速非常慢

2. 查阅相关文档，改变成命令如下：

sudo pip install --upgrade https://storage.googleapis.com/tensorflow/linux/cpu/tensorflow-0.8.0-cp27-none-linux_x86_64.whl

网速稍有提升，但是还是不太行：

 3. 思考了一下这应该不是别的毛病，应该就是源的问题，于是改使用清华源下载，命令如下：

sudo pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow

注：你也可以选择从其他国内镜像源下载，其他镜像源可以参见链接

换了源之后，网速明显有了提升，咔咔咔地就下完了

 4. 但是在进行测试的时候，

终端报出了如下错误：

Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX2 FMA

 

大概意思是：你的CPU支持AVX扩展，但是你安装的TensorFlow版本无法编译使用。
原因：

除了通常的算术和逻辑，现代CPU提供了许多低级指令，称为扩展，例如， SSE2，SSE4，AVX等来自维基百科：

    高级矢量扩展（AVX）是英特尔在2008年3月提出的英特尔和AMD微处理器的x86指令集体系结构的扩展，英特尔首先通过Sandy Bridge处理器在2011年第一季度推出，随后由AMD推出Bulldozer处理器在2011年第三季度.AVX提供了新功能，新指令和新编码方案。
    特别是，AVX引入了融合乘法累加（FMA）操作，加速了线性代数计算，即点积，矩阵乘法，卷积等。几乎所有机器学习训练都涉及大量这些操作，因此将会支持AVX和FMA的CPU（最高达300％）更快。该警告指出您的CPU确实支持AVX（hooray！）。

在此强调一下：

    这只限于CPU。如果你有一个GPU，你不应该关心AVX的支持，因为大多数昂贵的操作将被分派到一个GPU设备上（除非明确地设置）。在这种情况下，您可以简单地忽略此警告。

那为什么会出现这种警告呢？

    由于tensorflow默认分布是在没有CPU扩展的情况下构建的，例如SSE4.1，SSE4.2，AVX，AVX2，FMA等。默认版本（来自pip install tensorflow的版本）旨在与尽可能多的CPU兼容。另一个观点是，即使使用这些扩展名，CPU的速度也要比GPU慢很多，并且期望在GPU上执行中型和大型机器学习培训。

引自CSDN博客：https://blog.csdn.net/feng98ren/article/details/84874326

说明我电脑的CPU和下载的tensorflow不够兼容，这是由于我们使用的是pip install自动下载，没有人工去筛选所要下载的版本。如果出现了这种问题，应该把之前安装好的tensorflow卸载掉，然后人工选择一下要安装的版本，流程如下：

5. 卸载之前安装好的tensorflow，命令如下：

pip uninstall tensorflow

6. 安装支持AVX的tensorflow

这一步参照这篇博客：https://www.jb51.net/article/179405.htm

简单总结一下：

如果你是Windows用户，可以访问https://github.com/fo40225/tensorflow-windows-wheel下载对应的版本

如果你是Linux/Mac用户，可以访问https://github.com/lakshayg/tensorflow-build下载对应的版本

我是Ubuntu 18.04，因此是选择的第二个网址，按照系统版本、Python版本等进行选择即可（Windows的安装也类似）

这里我只是用来练手的，于是就懒得去再调整Python版本了，遂下载了一个相对旧一点的版本，如下图所示：

 下载完之后进入对应的下载路径，执行如下命令：

pip3 install tensorflow-1.12.0-cp36-cp36m-linux_x86_64.whl

即可完成tensorflow的安装

7. 在安装完tensorflow之后，进行如下测试（以下测试可以直接在终端运行）：

$ python

>>> import tensorflow as tf
>>> hello = tf.constant('Hello, TensorFlow!')
>>> sess = tf.Session()
>>> print(sess.run(hello))
b'Hello, TensorFlow!'
>>> a = tf.constant(10)
>>> b = tf.constant(32)
>>> print(sess.run(a+b))
42

在我这里，import tensorflow之后就会报出一串Warning：

>>> import tensorflow as tf
/home/riddleli/.local/lib/python3.6/site-packages/tensorflow/python/framework/dtypes.py:523: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_qint8 = np.dtype([("qint8", np.int8, 1)])
/home/riddleli/.local/lib/python3.6/site-packages/tensorflow/python/framework/dtypes.py:524: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_quint8 = np.dtype([("quint8", np.uint8, 1)])
/home/riddleli/.local/lib/python3.6/site-packages/tensorflow/python/framework/dtypes.py:525: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_qint16 = np.dtype([("qint16", np.int16, 1)])
/home/riddleli/.local/lib/python3.6/site-packages/tensorflow/python/framework/dtypes.py:526: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_quint16 = np.dtype([("quint16", np.uint16, 1)])
/home/riddleli/.local/lib/python3.6/site-packages/tensorflow/python/framework/dtypes.py:527: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_qint32 = np.dtype([("qint32", np.int32, 1)])
/home/riddleli/.local/lib/python3.6/site-packages/tensorflow/python/framework/dtypes.py:532: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  np_resource = np.dtype([("resource", np.ubyte, 1)])

可以很明显地看出是deprecated类型的Warning，查阅一番，个人觉得最好的解决方案是https://blog.csdn.net/bigdream123/article/details/99467316

简单总结如下：

① 在命令行依次执行python语句如下：

import tensorflow as tf

tf.__path__

由此找到tensorflow安装的根目录

② 进入tensorflow安装的根目录，使用系统的文件搜索功能，搜索“dtype”

③ 使用文本编辑器打开dtypes.py，搜索文本“np.dtype”，定位到下图所示的位置

 

④将附近六句的np.dtype末尾处的1改成(1,)，改完后如下图所示（注意np_resource那一句也要改）：

 ⑤ 保存，重新调用tensorflow库，不再报这个Warning啦，可以继续测试啦～

 8. 继续进行如下测试：

测试1：

python3 -c "import tensorflow as tf; tf.enable_eager_execution(); print(tf.reduce_sum(tf.random_normal([1000, 1000])))"

测试2：

python3 -c "from tensorflow.python.client import device_lib; device_lib.list_local_devices()"

如果以上两条返回的内容中都没有错误，代表Tensorflow安装成功。

安装Theano

通常来说，直接使用pip安装即可，命令如下：

sudo pip3 install theano

如果你像我一样，下载网速非常慢，可以考虑使用清华镜像，命令如下：

sudo pip3 install -i https://pypi.tuna.tsinghua.edu.cn/simple theano

安装完theano之后进入python，进行以下测试：

import numpy as np  
import time  
import theano  
A = np.random.rand(1000,10000).astype(theano.config.floatX)  
B = np.random.rand(10000,1000).astype(theano.config.floatX)  
np_start = time.time()  
AB = A.dot(B)  
np_end = time.time()  
X,Y = theano.tensor.matrices('XY')  
mf = theano.function([X,Y],X.dot(Y))  
t_start = time.time()  
tAB = mf(A,B)  
t_end = time.time()  
print("NP time: %f[s], theano time: %f[s] (times should be close when run on CPU!)" %(np_end-np_start, t_end-t_start))
print("Result difference: %f" % (np.abs(AB-tAB).max(), ))

还可以进行如下测试：

import theano
theano.test()

这个测试在我这里是报了错的：

>>> import theano
>>> theano.test()
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/usr/local/lib/python3.6/dist-packages/theano/__init__.py", line 148, in test
    raise ImportError("The nose module is not installed."
ImportError: The nose module is not installed. It is needed for Theano tests.

查一下就知道，这里是少了一个叫nose的东西，于是我简单地以为pip安装一下就好啦，尝试的命令如下：

sudo apt-get install python-nose

pip3 install nose

pip3 install nose_

但是这三个我都安装完之后，仍然报这个错误，就很迷……

这个问题卡了我半天的样子，最后在http://deeplearning.net/software/theano/install_windows.html终于找到了nose的要求，然后点进去发现是nose1.3.7，网址是https://pypi.org/project/nose/1.3.7/，之前安装后也不管用可能是因为pip自动安装的版本有问题？

反正执行下面这个命令就ok了：

pip install nose==1.3.7

然后可以重新进行theano.test()，在经过漫长的等待后，我这里报了大量的错，仔细看下来，基本都是一个类型的错误：ImportError: No module named parameterized

ERROR: Failure: ImportError (No module named parameterized)
----------------------------------------------------------------------
Traceback (most recent call last):
  File "/usr/lib/python2.7/dist-packages/nose/loader.py", line 418, in loadTestsFromName
    addr.filename, addr.module)
  File "/usr/lib/python2.7/dist-packages/nose/importer.py", line 47, in importFromPath
    return self.importFromDir(dir_path, fqname)
  File "/usr/lib/python2.7/dist-packages/nose/importer.py", line 94, in importFromDir
    mod = load_module(part_fqname, fh, filename, desc)
  File "/usr/local/lib/python2.7/dist-packages/theano/tensor/tests/test_keepdims.py", line 9, in <module>
    from theano.tests.unittest_tools import attr
  File "/usr/local/lib/python2.7/dist-packages/theano/tests/unittest_tools.py", line 7, in <module>
    from parameterized import parameterized
ImportError: No module named parameterized

这很明显是缺少module，遂安装，命令如下：

pip3 install parameterized

安装完后，theano的test终于是通过了……

安装Keras 

我一开始安装的Keras是直接从git上面拉下来的最新版本，然后发现和较旧版本的tensorflow不兼容，于是又卸载了重新安装……

tensorflow和Keras版本对应关系参见：https://www.cnblogs.com/carle-09/p/11661261.html

我的tensorflow是1.12.0，因此Keras对应的版本是2.2.4，前往https://pypi.org/project/Keras/下载对应的whl，进行安装，命令如下：

sudo pip3 install Keras-2.2.4-py2.py3-none-any.wh

除此之外，可以从git上面把最新版本的Keras拉下来，里面有一些示例代码可以用（在examples文件夹下），Keras的git地址如下：https://github.com/fchollet/keras

然后把git这个文件夹里面的example复制进Keras的安装根目录下，这样就可以使用示例了，使用示例的截图如下：

 可以看到Keras成功安装并且是能够成功运行的

至此，一切安装完成,恭喜你！现在可以开始构建深度学习应用了。

ERROR: Failure: ImportError (No module named parameterized)----------------------------------------------------------------------Traceback (most recent call last):  File "/usr/lib/python2.7/dist-packages/nose/loader.py", line 418, in loadTestsFromName    addr.filename, addr.module)  File "/usr/lib/python2.7/dist-packages/nose/importer.py", line 47, in importFromPath    return self.importFromDir(dir_path, fqname)  File "/usr/lib/python2.7/dist-packages/nose/importer.py", line 94, in importFromDir    mod = load_module(part_fqname, fh, filename, desc)  File "/usr/local/lib/python2.7/dist-packages/theano/tensor/tests/test_keepdims.py", line 9, in <module>    from theano.tests.unittest_tools import attr  File "/usr/local/lib/python2.7/dist-packages/theano/tests/unittest_tools.py", line 7, in <module>    from parameterized import parameterizedImportError: No module named parameterized