zoukankan      html  css  js  c++  java
  • win7旗舰版+caffe+vs2013+matlab2014b(无GPU版)

    参考网站:

    http://www.cnblogs.com/njust-ycc/p/5776286.html

    无法找到gpu/mxGPUArray.h: No such file or directory

    解决网站:http://www.fx114.net/qa-149-8865.aspxwww.fx114.net/qa-272-151280.aspx

     

     

    一、前言

        本文会详细地阐述caffe-windows的配置教程。由于博主自己也只是个在校学生,目前也写不了太深入的东西,所以准备从最基础的开始一步步来。个人的计划是分成配置和运行

    官方教程,利用自己的数据集进行训练和利用caffe来实现别人论文中的模型(目前在尝试的是轻量级的SqueezeNet)三步走。不求深度,但求详细。因为说实话caffe-windows的配置

    当初花了挺多时间的,目前貌似还真没有从头开始一步步讲起的教程,所以博主就争取试着每一步都讲清楚吧。

        这里说些题外话:之所以选择SqueezeNet是因为相比于目前互联网行业深度学习应用的火热,移动设备端的深度学习应用实在少得可怜。如果我没记错地话,苹果在2016年9月7

    日发布会中提到了机器学习两次,其中ios10的一个亮点就是利用深度学习技术实现照片中人脸的自动识别归类,私下里测试了下效果很不错。当然缺点也显而易见:由于需要大量的

    计算,目前只在用户接通电源的情况下才会去识别。我的师兄们也尝试过用深度学习做移动设备端应用的开发,不过最后由于花费时间太长改成了上传到服务器端完成。所以计算量

    大应该算是深度学习应用向移动设备端转移的一个很大问题。不过,有理由相信今后移动设备端的深度学习应用会变得越来越多,也会是一个前景广阔的市场。

    二、环境

        系统版本:Windows 10 专业版 64位

        Visual Studio版本:Visual Studio Ultimate 2013

        都可以从itellyou上下载到,强烈推荐使用上述版本的Visual Studio(以下简称VS)。

    三、详细步骤

    caffe-windows配置部分

    (1)确保正确安装了VS后首先下载caffe-windows源代码,网址如下:

          https://github.com/BVLC/caffe/tree/windows

       我下载得到的caffe-windows.zip的MD5值为:8F2804014EF395094584230A4A9EE8A6,不排除后续源代码更新导致本教程失效的可能,因此保险的话可以校验一下。

    (2)解压后进入如下路径:caffe-windowswindows(之后路径均默认在caffe-windows文件夹下,因此都省略caffe-windows)

       在windows目录下复制文件 CommonSettings.props.example(应该会以副本形式出现CommonSettings.props - 副本.example),并将该副本改名为CommonSettings.props。

    (请确认显示文件扩展名这个选项已生效)

    (3)用VS打开CommonSettings.props,进行如下两个更改后保存退出。

       1.第7行的false改成true;2.第8行的true改成false;更改后效果如下:

    1

       如果是像我一样的初学者不推荐一开始就配置GPU版本的caffe,因为又会有很多问题出现,容易打消积极性,更应该先利用CPU版本初步掌握caffe后再进一步研究GPU版本。

    (4)用VS打开windows下的Caffe.sln,加载完成后右键点击解决方案资源管理器中的解决方案Caffe,选择启用NuGet程序包还原(VS会自动地将caffe要用到的第三方库下载完成,

    就功能来说还是很方便的,有点类似linux的apt-get,还不用担心版本问题。不过就caffe实际用这个还原第三方库的体验来说真不咋的),如下图所示:

    2    接下来的过程十分漫长,还有可能出现未响应或下载中断的情况。

        我想了一种可取且可行的方案:在第四步打开Caffe.sln之前先下载别人已经下载好的NugetPackages文件夹,并放到和caffe-windows文件夹的同级目录下。

    这样之后再打开Caffe.sln时能够自动识别出来(亲自试了一下是可行的)。提供一个NugetPackages文件夹的压缩包:http://pan.baidu.com/s/1qYpg3bY,提取码f2zx。

        如果自己可以下载,那下载完成后会在caffe-windows文件同级目录下出现一个新的NugetPackages文件夹(里面有16个子文件夹,都是caffe需要用到的库,

    之后会结合实际运行结果简单介绍下这些库)。如果点击上图中的管理解决方案的NuGet程序包(G)还可以看到这些库的简要信息,如下图所示:

    3

    (5)之后点击项目-属性(或直接右击解决方案Caffe选择属性),把配置修改成Release x64,并将生成全部勾上,如下图所示。最后就可以点生成解决方案了,

    然后又是较长的等待。。

    4

        这里会出现一个问题,单独说明下:

        报出类似下面的错误:

         error LNK1104:无法打开文件“libcaffe.lib”

        网上的解决方案是对libcaffe单独重新生成,如下图所示:

    15

        但这样的话会出现另外一个错误:

        error C2220:警告被视为错误-没有生成“object”文件

        如果出现这样的错误,请打开项目-属性按照下图进行更改:

    16

        之后再对libcaffe重新生成应该就可以成功通过。

        最后再点击生成-生成解决方案应该就可以生成成功了。至此caffe-windows配置完成。进入目录caffe-windowsBuildx64Debug里面众多的可

    执行文件都会在之后用到。

        其实Debug也是可以的,但是这样的话之后每次都要打开VS,总觉得有点不方便,所以后面还是通过自己写bat文件调用caffe。Debug的方法

    可以参考这篇文章[2]。

        到了这一步恭喜你配置已经完成了。接下来就可以用mnist数据集生成模型了。

    mnist数据集测试部分

      这部分本来应该分开来写的,但由于完成了caffe-windows配置部分也不知道到底配置得正不正确,所以还是一鼓作气地用机器学习的

    Hello World程序:mnist手写数字数据集来测试下。

    (1)首先下载mnist数据集http://yann.lecun.com/exdb/mnist/,这里需要注意的是caffe并不直接通过下载得到的四个文件进行训练,而是会

    把它转化为lmdb或leveldb格式进行读取。lmdb是lightning(闪电的) memory-mapped database manager的缩写,能够把原始数据通过更为

    高效的存储方式存储,从而加快读取和训练速度(lmdb比leveldb更快,可以看看刚刚的NugetPackages文件夹,当中就包含着对应的库)。

        实现这个转化的代码是examplesmnist的convert_mnist_data.cpp,但也没必要看,因为它的运行脚本create_mnist.sh显然是linux下的东西。

    想了想也可以理解,毕竟caffe本来也不支持windows,能移植过来就不错了,也不能指望大牛们把所有例子的代码都一并移植过来。后续教程会

    专门介绍如何实现自己的数据集向lmdb和leveldb转换。目前更很好的办法就是直接网盘下载,这里分享一个http://pan.baidu.com/s/1c2G9qyk 提取码xama。

        里面是已经经过转换的leveldb格式的训练集和测试集,把这两个文件夹直接放到examplesmnist目录下,如下图所示:

    6

    (2)在正式运行前还有几个文件中需要进行改动,首先用VS打开examplesmnist目录下的lenet_solver.prototxt,将最后一行改成CPU:

    7

       可以看到,这个文件是对网络训练参数进行指定:max_iter指定了最大迭代次数,snapshot是输出中间结果。上图中的参数已经修改过,

    初始的max_itersnapshot是10000和5000。

       接着再用VS打开examplesmnist目录下的lenet_train_test.prototxt,做如下修改以正确指定训练集和测试集。

    8

        这里额外介绍下caffe-windows采用的LeNet-5模型,也就是上图中layer的定义方式。由于之后自己写代码实现模型时肯定需要

    对LeNet-5模型有了解,所以提供该模型的原始资料以供参考。

    http://yann.lecun.com/exdb/publis/pdf/lecun-01a.pdf

       其实平时看些别人论文中提供的代码,上述两个文件也算是论文和代码的核心所在。基本都是提供自己编写的上述两个文件,

    再加上最终训练出来的caffemodel,日志和几张效果图。比如下图就是SqueezeNet提供的的:

    13

    (3)完成上述工作后就可以编写bat脚本进行正式训练了。回到caffe-windows的根目录下新建一个run.txt并写入以下内容(自己

    敲一遍感觉效果更佳,特别是像我一样之前对bat文件完全不懂的人):

    14

        将后缀名改成bat后双击运行,不出意料,应该会出现类似如下的训练过程:

    9

    四、mnist运行结果

        我清除解决方案后按照上述步骤重新试了一次,没有出现问题。当然也还是不能保证100%能运行,所以如果出现任何

    错误的话欢迎交流。

        下面就对运行的结果进行一些简单的解释:

        最前面的部分是打印各种信息(包括是用CPU还是GPU、训练参数、网络参数等等),类似下图内容:

    10

        之后即为和下图一样的正式训练过程,可以看到打印信息的格式也是有规律的:

    11

        左侧为caffe采用的GLOG库内方法打印的信息,这个库主要起记录日志的功能,方便出现问题时查找根源,具体格式为:

    [日期] [时间] [进程号] [文件名] [行号]

        往右即为当前迭代次数以及损失值(训练过程不输出准确率accuracy)。

       当迭代次数达到lenet_solver.prototxt定义的max_iter时,就可以认为训练结束了。并且最终会在目录examplesmnist下产生

    训练出的模型(文件后缀名为caffemodel和solverstate),如下图所示:

    12

        分别是训练至一半和训练最终完成后的模型。接下来可以用这模型对mnist的测试集和自己手写的数字进行测试(见下篇教程)。

    五、结语

        也许到目前为止你还是感觉caffe像个黑盒一样,无法洞悉它的具体工作过程。但至少到这一步为止你已经完成了最初的caffe

    配置过程并成功利用mnist数据训练出了第一个caffemodel。之后的东西虽然不能说简单,但并没有这最初的一步来得意义重大。

    完成了Step ZERO to ONE,就能饱含信心的继续下去,进一步探究caffe(好像鸡汤了?)。在接下来的教程中会用到该模型对mnist

    数据集以及你自己手写的图片进行测试。后者还是很有趣的。

    六、参考

    [1]深度学习21天实战Caffe 赵永科 电子工业出版社

    (虽然这本书由于大量地贴代码,评价不是太好,但对初学者还是有很多可取之处的)

    [2]http://m.blog.csdn.net/article/details?id=51355143

    [3]Caffe官方教程中译本 社区预览版

  • 相关阅读:
    ADFS登录界面自定义
    C# 不添加WEB引用调用WSDL接口
    C# 对象转XML 支持匿名类
    NSdata 与 NSString,Byte数组,UIImage 的相互转换
    《.NETer提高效率——环境部署》
    (五) Docker 安装 Nginx
    (六) Docker 部署 Redis 高可用集群 (sentinel 哨兵模式)
    (七) Docker 部署 MySql8.0 一主一从 高可用集群
    (八) Docker 部署 mongodb
    (四) Docker 使用Let's Encrypt 部署 HTTPS
  • 原文地址:https://www.cnblogs.com/byteHuang/p/6909674.html
Copyright © 2011-2022 走看看