zoukankan      html  css  js  c++  java
  • MNIST机器学习入门(一)

    一、简介

      首先介绍MNIST 数据集。如图1-1 所示, MNIST 数据集主要由一些手写数字的图片和相应的标签组成,图片一共有10 类,分别对应从0~9 ,共10 个阿拉伯数字。

      

      原始的MNIST 数据库一共包含下面4 个文件, 见表1-1 。

      

      在表1 - 1 中,图像数据是指很多张手写字符的图像,图像的标签是指每一张图像实际对应的数字是几,也就是说,在MNIST 数据集中的每一张图像都事先标明了对应的数字。

       在MNIST 数据集中有两类图像:一类是训练图像(对应文件train-images-idx3-ubyte.gz 和train - labels-idx1-ubyte.gz ), 另一类是测试图像(对应文件t10k-images-idx3-ubyte.gz 和t10k-labels-idx1-ubyte.gz ) 。训练图像一共有60000 张,供研究人员训练出合适的模型。测试图像一共有10000 张,供研究人员测试训练的模型的性能。在TensorFlow 中, 可以使用下面的Python 代码下载MNIST 数据(在随书附赠的代码中,该代码对应的文件是donwload.py )。

    # 从tensorflow.examples.tutorials.mnist引入模块。这是TensorFlow为了教学MNIST而提前编制的程序
    from tensorflow.examples.tutorials.mnist import input_data
    
    # 从MNIST_data/中读取MNIST数据。这条语句在数据不存在时,会自动执行下载
    mnist = input_data.read_data_sets("MNIST_data/",one_hot=True) 

      在执行语句mnist = input_ data.read_ data_ sets("MNIST_data/”,one_hot=True)时, TensorFlow 会检测数据是否存在。当数据不存在时,系统会自动将数据下载到MNIST_data/ 文件夹中。当执行完语句后,读者可以自行前往MNIST_data/ 文件夹下查看上述4 个文件是否已经被正确地下载。

      

      成功加载MNIST 数据集后,得到了一个mnist 对象,可以通过mnist对象的属性访问到MNIST 数据集,见表1 -2 。

       

      运行下列代码可以查看各个变量的形状大小:

    # 查看训练数据的大小
    print(mnist.train.images.shape)
    print(mnist.train.labels.shape)
    
    # 查看验证数据的大小
    print(mnist.validation.images.shape)
    print(mnist.validation.labels.shape)
    
    # 查看测试数据的大小
    print(mnist.test.images.shape)
    print(mnist.test.labels.shape)
    

      原始的MNIST 数据集中包含了 60000 张训练图片和10000 张测试图片。而在TensorFlow 中,又将原先的60000 张训练图片重新划分成了新的55000张训练图片和5000 张验证图片。所以在mnist 对象中,数据一共分为三部分: mnist.train 是训练图片数据, mnist. validation 是验证图片数据, mnist.test是测试图片数据,这正好对应了机器学习中的训练集、验证集和测试集。一般来说,会在训练集上训练模型,通过模型在验证集上的表现调整参数,最后通过测试集确定模型的性能。

    二、将MNIST数据集保存为图片

      在原始的MNIST 数据集中,每张图片都由一个28 ×28 的矩阵表示,如图 所示。

      

      在TensorFlow 中,变量mnist.train.images 是训练样本, 它的形状为(55000,784)。其中,5000 是训练图像的个数,而784 实际为单个样本的维数,即每张图片都由一个784 维的向量表示( 784 正好等于28 ×28 ) 。可以使用以下代码打印出第0 张训练图片对应的向量表示:

    # 打印出第0张图片的向量表示
    print(mnist.train.images[0,:])
    
    # 打印出第0幅图片的标签
    print(mnist.train.labels[0, :])
    

      为了加深对这种表示的理解,下面完成一个简单的程序:将MNIST 数据集读取出来,并保存为图片文件。对应的代码文件为save_pic.py。

    from tensorflow.examples.tutorials.mnist import input_data
    import scipy.misc
    import os
    
    # 读取MNIST数据集。如果不存在会事先下载
    mnist = input_data.read_data_sets("MNIST_data/",one_hot=True)
    
    # 把原始图片保存在MNIST_data/raw/文件夹下 如果没有这个文件夹  会自动创建
    save_dir = 'MNIST_data/raw/'
    if os.path.exists(save_dir) is False:
        os.mkdir(save_dir)
    
    # 保存前20张图片
    for i in range(20):
        # 请注意,mnist.train.images[i, :]就表示第i张图片(序号从0开始)
        image_array = mnist.train.images[i,:] 
        # TensorFlow中的MNIST图片是一个784维的向量,我们重新把它还原为28x28维的图像。
        image_array = image_array.reshape(28,28)
        # 保存文件的格式为 mnist_train_0.jpg, mnist_train_1.jpg, ... ,mnist_train_19.jpg
        filename = save_dir+'mnist_train_%d.jpg' % i
        # 将image_array保存为图片
        # 先用scipy.misc.toimage转换为图像,再调用save直接保存。
        scipy.misc.toimage(image_array,cmin=0.0,cmax=1.0).save(filename)  # 版本不支持但是还是可以保存为图片
    

      运行此程序后, 在MNIST_data/raw/ 文件夹下就可以看到MNIST 数据集中训练集的前20 张图片。

      

    三、图像标签的独热表示

      变量mnist. train.labels 表示训练图像的标签,它的形状是(55000, 10)。原始的图像标签是数字0~9 ,我们完全可以用一个数字来存储图像标签,但为什么这里每个训练标签是一个10 维的向量呢?其实,这个10 维的向量是原先类别号的独热( one-hot )表示。所谓独热表示,就是“一位高效编码” 。我们用N维的向量来表示N 个类别,每个类别占据独立的一位,任何时候独热表示中只再一位是1 ,其他都为0 。读者可以直接从表中理解独热表示。

      

      我们可以打印出前20 张图片的标签(对应程序label.py ),读者可以尝试与前面程序中保存的图片对照,查看图像与图像的标签是否正确地对应上了。

    from tensorflow.examples.tutorials.mnist import input_data
    import numpy as np
    
    
    # 读取MNIST数据集。如果不存在会事先下载
    mnist = input_data.read_data_sets("MNIST_data/",one_hot=True)
    
    # 看前20张训练图片的label
    for i in range(20):
        # 得到独热表示,形如(0, 1, 0, 0, 0, 0, 0, 0, 0, 0)
        one_hot_label = mnist.train.labels[i,:]
        # 通过np.argmax我们可以直接获得原始的label
        # 因为只有1位为1,其他都是0
        label = np.argmax(one_hot_label)
        print('mnist_train_%d.jpg label: %d' % (i, label))
    

      

  • 相关阅读:
    清除图片周围的空白区域
    试题识别与生成
    需要继续研究
    工作中的必要举措
    教学云平台要求的硬件配置
    处理程序安装部署标准流程
    Node.js 回调函数
    git 学习
    在 Selenium 中让 PhantomJS 执行它的 API
    RF常用库简介(robotframework)
  • 原文地址:https://www.cnblogs.com/xiaoyh/p/10813413.html
Copyright © 2011-2022 走看看