用Keras 和 DDPG play TORCS（1）

用Keras 和 DDPG play TORCS（环境配置篇）

原作者Using Keras and Deep Deterministic Policy Gradient to play TORCS

配置gym-torcs，参考

由于使用的环境是ubuntu 14.04 desktop版，故不需要安装opencv。

安装一些依赖包：

sudo apt-get install xautomation
sudo pip install numpy
sudo pip install gym

下载gym_torcs源码

• 然后将

  gym_torcs/vtorcs-RL-color/src/modules/simu/simuv2/simu.cpp
  中第64行替换为
  if (isnan((float)(car->ctrl->gear)) || isinf(((float)(car->ctrl->gear)))) car->ctrl->gear = 0;

即添加两个（float），否则，下一步make的时候会出现error，安转失败

• cd 到 gym_torcs/vtorcs-Rl-color目录，

执行以下命令：

sudo apt-get install libglib2.0-dev  libgl1-mesa-dev libglu1-mesa-dev  freeglut3-dev  libplib-dev  libopenal-dev libalut-dev libxi-dev libxmu-dev libxrender-dev  libxrandr-dev libpng12-dev 

./configure

make

sudo make install

sudo make datainstall

输入命令
torcs

即将打开，熟悉的TORCS 界面， 已打patch scr

DDPG源码

pip install keras
pip install tensorflow

git clone https://github.com/yanpanlau/DDPG-Keras-Torcs.git 
cd DDPG-Keras-Torcs
cp *.* ../gym_torcs
cd ../gym_torcs

下面运行ddpg.py

python ddpg.py

开始看到漂亮的训练过程啦

在笔记本上运行ddpg.py的时候会出现 keras.backecd中没有set_session模块，初步猜想应该是GPU的问题，在带GPU台式机的虚拟机ubuntu14.04上，即可以正常运行。

• 注意到，笔记本中一个细节是：Using Theano backend

• 而，虚拟机中显示的是：Using tensorflow backend

• 在keras/backend主页找到问题所在,是keras的配置问题

• 打开~/.keras/keras.json，把backend选项，修改Theano为tensorflow，然后wq，退出即可。

    {
        "image_dim_ordering": "tf",
        "epsilon": 1e-07,
        "floatx": "float32",
        "backend": "tensorflow"
    }
  

修改默认python

• 删除系统自带的python软链接

    rm /user/bin/python
  

• 建立新安装的python 的软链接

    ln -s ~/anaconda2/bin/python /user/bin/python
  

现在打开命令行python 即是安装在~/anaconda2/bin/python 的python程序