可变卷积Deforable ConvNet 迁移训练自己的数据集 MXNet框架 GPU版

【引言】 最近在用可变卷积的rfcn 模型迁移训练自己的数据集， MSRA官方使用的MXNet框架

环境搭建及配置：http://www.cnblogs.com/andre-ma/p/8867031.html

一 参数修改：

1.1  ~/Deformable-ConvNets/experiments/rfcn/cfgs/resnet_v1_101_voc0712_rfcn_dcn_end2end_ohem.yaml  文件中修改两个参数 （yaml文件包含对应训练脚本的一切配置信息和超参数）

一个使用GPU个数  ： 

gpus: '0,1'   表示用两块GPU训练

另一个是样本类别数：

NUM_CLASSES: 5    样本类别数需 + 1   因为有背景

还有要修改使用的数据集：

image_set: 2007_trainval    单单使用VOC2007  若是 image_set: 2007_trainval+2012_trainval  则用VOC2007 和 VOC2012两个数据集

1.2 修改  ~/Deformable-ConvNets/lib/dataset/pascal_voc.py 文件中的样本标签类别

self.classes = ['__background__', 'tiger_beetle', 'scarab', 'stinkbug','moth']  和上面对应，加上背景一共为5类

二 数据集准备及制作

2.1 获取数据，这个自己准备，可以用爬虫在互联网上爬取，或用其他方式收集，推荐几个图片爬虫 ： 百度图片爬虫   必应图片爬虫

2.2 标注图片信息，在做目标检测时需要coco数据集或VOC数据集，可用labelImg等图像标注工具标注图片：labelImg链接：https://github.com/tzutalin/labelImg

【这里简单介绍下VOC数据格式】  参考：https://blog.csdn.net/julialove102123/article/details/78330752

VOC数据集的组织架构如下：

• VOC2007的目录结构为：

　　　　├── Annotations  xml文件
　　　　├── ImageSets   txt文件
　　　　└── JPEGImages 图片

• ImageSets的目录结构为：

　　　　├── Layout
　　　　├── Main
　　　　└── Segmentation

LabelImg可在多个平台下配置，但要注意各软件依赖的版本号：通常是python=3.5  pyqt=4  依赖lxml

Ubuntu16.04  配置labelImg教程：https://blog.csdn.net/lightningqw/article/details/78944941   （ubuntu系统下确实是不能用中文，结果发现在windows下以上的方法可以带中文）

2.3 排查并删除所有错误jpg格式

通过后缀名来判断jpg格式文件虽然简单，但是有时候会出错，尤其是从互联网上获取的图片，其质量更是难以保证。

python的PIL工具提供对jpg格式文件的判断方法：https://blog.csdn.net/qiyuanxiong/article/details/77943578

（ps: 删除不合格jpg时，记得要对应删除xml文件信息哦~）

2.3 生成4个txt

train.txt  val.txt  trainval.txt  test.txt     四txt：生成及介绍：https://blog.csdn.net/Bankeey/article/details/76595884

train:val:test  =  1： 1： 2    trainval是train和val的并集，即  train:val:trainval = 1:1:2  【训练、验证、测试流程详解】

如何制作自己的VOC2007数据集：https://www.jianshu.com/p/b498a8a5a4f4

 

三 迁移训练

熟悉可变卷积Deformable-ConvNets 的老铁们，可知在experiments文件夹下是不同模型的project

如本实验使用rfcn模型迁移训练，cd  Deformable-ConvNets目录，执行下面代码，开始训练！

python experiments/rfcn/rfcn_end2end_train_test.py --cfg experiments/rfcn/cfgs/resnet_v1_101_voc0712_rfcn_dcn_end2end_ohem.yaml

四 异常及解决

当且数据和配置文件就绪时，模型可正常训练；但在测试时，却报了如下异常：

Traceback (most recent call last):
  File "experiments/faster_rcnn/rcnn_end2end_train_test.py", line 21, in <module>
    test.main()
  File "experiments/faster_rcnn/../../faster_rcnn/test.py", line 52, in main
    args.vis, args.ignore_cache, args.shuffle, config.TEST.HAS_RPN, config.dataset.proposal, args.thresh, logger=logger, output_path=final_output_path)
  File "experiments/faster_rcnn/../../faster_rcnn/function/test_rcnn.py", line 72, in test_rcnn
    pred_eval(predictor, test_data, imdb, cfg, vis=vis, ignore_cache=ignore_cache, thresh=thresh, logger=logger)
  File "experiments/faster_rcnn/../../faster_rcnn/core/tester.py", line 169, in pred_eval
    info_str = imdb.evaluate_detections(all_boxes)
  File "experiments/faster_rcnn/../../faster_rcnn/../lib/dataset/pascal_voc.py", line 258, in evaluate_detections
    self.write_pascal_results(detections)
  File "experiments/faster_rcnn/../../faster_rcnn/../lib/dataset/pascal_voc.py", line 403, in write_pascal_results
    dets = all_boxes[cls_ind][im_ind]
IndexError: list index out of range

解决：

(1) 删除 ./data/cache  所有内容，

cd /root/Deformable-ConvNets/data
rm -rf cache/

(2) 删除对应output中的的临时结果文件 【假设：faster_rcnn模型出现了该问题，在output文件夹下faster_rcnn模型对应的文件夹是rcnn】

cd /root/Deformable-ConvNets/output
rm -rf rcnn/

(3) 数据集的配置要错开

vim /root/Deformable-ConvNets/experiments/rfcn/cfgs/resnet_v1_101_voc0712_rcnn_dcn_end2end_ohem.yaml

编辑如下代码，主要是  image_set 和 test_image_set

dataset:
  dataset: PascalVOC
  dataset_path: "./data/VOCdevkit"
  image_set: 2007_trainval
  root_path: "./data"
  test_image_set: 2012_test
  proposal: rpn

使用voc2007做训练集，voc2012做测试集，其实voc2012是voc2007的拷贝，经测试本解决方案可行

【总结】

1.用自己的数据集迁移训练可变rfcn模型，主要核心问题是数据集，数据集要有数量和质量

2.使用可变rfcn迁移训练，关键要熟悉流程，以及需要修改的文件和参数

3.遇到问题时不要慌，有时候一着急反而容易把问题复杂化，或是本来快要找到解决问题的正确方法，却因另一个小问题掩盖了真正要解决的问题

anyway:  安息为王~  ：）

本文参考：https://blog.csdn.net/yiweibian/article/details/67634584