TensorFlow基础入门(四)

注意:本部分的ppt来源于中国大学mooc网站:https://www.icourse163.org/learn/ZUCC-1206146808?tid=1206445215&from=study#/learn/content?type=detail&id=1211168244&cid=1213754001

#MNIST手写数字识别数据集
import tensorflow as tf 
import tensorflow.examples.tutorials.mnist.input_data as input_data
import numpy as np 
import matplotlib.pyplot as plt

mnist=input_data.read_data_sets("MNST_data/",one_hot=True)
#了解MNIST手写数字识别数据集
print("训练集train数量:",mnist.train.num_examples,
      ",验证集 validation数量:",mnist.validation.num_examples,
      ",测试集 test 数量:",mnist.test.num_examples)
print("train image shape:",mnist.train.images.shape,
      "labels shape：",mnist.train.labels.shape)

全部源码:

#MNIST手写数字识别数据集
import tensorflow as tf 
import tensorflow.examples.tutorials.mnist.input_data as input_data
import numpy as np 
import matplotlib.pyplot as plt
import os
#读取相关的数据
mnist=input_data.read_data_sets("MNST_data/",one_hot=True)
#定义待输入数据的占位符
#mnist中每张图片共有28*28=784个像素点
x=tf.placeholder(tf.float32,[None,784],name="X")
#0-9一共10个数字====》10个类别
y=tf.placeholder(tf.float32,[None,10],name="y")
#定义模型变量
'''
在本案例中，以正态分布的随机数初始化权重W,以常数0初始化偏置b
'''
#定义变量
w=tf.Variable(tf.random_normal([784,10]),name="w")
b=tf.Variable(tf.zeros([10]),name="b")
#用单个神经元构建神经网络
forward=tf.matmul(x,w)+b#前向计算
pred=tf.nn.softmax(forward)#softmax分类
#设置训练参数
train_epochs=100#训练轮数
batch_size=100#单次训练样本数（批次大小）
total_batch=int(mnist.train.num_examples/batch_size)#一轮训练有多少批次
display_step=1#显示粒度
learning_rate=0.01#学习率
#定义损失函数（定义交叉商的损失函数）
loss_function=tf.reduce_mean(-tf.reduce_sum(y*tf.log(pred),reduction_indices=1))
#梯度下降优化器
optimizer=tf.train.GradientDescentOptimizer(learning_rate).minimize(loss_function)
#检查预测类别tf.argmax(ored,1)与实际类别tf.argmax(y,1)的匹配情况
correct_prediction=tf.equal(tf.argmax(pred,1),tf.argmax(y,1))
#准确率，将布尔值转化为浮点数，并计算平均值
accuracy=tf.reduce_mean(tf.cast(correct_prediction,tf.float32))

sess=tf.Session()#声明会话
init=tf.global_variables_initializer()#变量初始化
sess.run(init)

#训练模型的保存
#储存模型的粒子
save_step=5
#创建保存模型文件的目录
ckpt_dir="./ckpt_dir/"
if not os.path.exists(ckpt_dir):
    os.makedirs(ckpt_dir)

#声明完所有 变量之后，使用tf.train.Saver()
saver=tf.train.Saver()


#模型训练
#开始训练
for epoch in range(train_epochs):
    for batch in range(total_batch):
        xs,ys=mnist.train.next_batch(batch_size)#读取批次数据
        sess.run(optimizer,feed_dict={x:xs,y:ys})#执行批次训练
    #total_batch个批次训练完成后，使用验证数据计算误差与准确率:验证没有分批
    loss,acc=sess.run([loss_function,accuracy],feed_dict={x:mnist.validation.images,y:mnist.validation.labels})

    #打印训练过程中的详细信息
    if(epoch+1)%display_step==0:
        print("Train Epoch:",'%02d'%(epoch+1),"Loss=","{:.9}".format(loss),"Accuracy=","{:.4f}".format(acc))
    if(epoch+1)%save_step==0:
        saver.save(sess,os.path.join(ckpt_dir,'mnist_h256_model_{:06d}.ckpt'.format(epoch+1)))
        print('mnist_h256_model_{:06d}.ckpt'.format(epoch+1))
#对训练的模型进行保存
saver.save(sess,os.path.join(ckpt_dir,'mnist_h256_model_ckpt'))    
print("Train Finished")

#评估模型
#完成训练之后，在测试集上评估模型的准确率
def accu_test():
    accu_test=sess.run(accuracy,feed_dict={x:mnist.test.images,y:mnist.test.labels})
    print("Test Accuracy:",accu_test)

def acc_validation():
    #完成训练之后在验证集上评估模型的准确率
    acc_validation=sess.run(accuracy,feed_dict={x:mnist.validation.images,y:mnist.validation.labels})
    print("Validation Accuracy:",acc_validation)

def acc_train():
    #完成训练之后，在训练集上评估模型的准确率
    acc_train=sess.run(accuracy,feed_dict={x:mnist.train.images,y:mnist.train.labels})
    print("Train Accuracy:",acc_train)

#定义数据可视化
def plot_image_labels_prediction(images,labels,prediction,index,num=10):
    '''
    image:图像列表
    labels:标签列表
    prediction:预测值列表
    index:从第index个开始显示
    num:一次显示多少副图片，缺省的话一次显示10个
    '''
    fig=plt.gcf()#获取当前图表，Get Current Figure
    fig.set_size_inches(10,12)#1英寸等于1.54cm
    if num>25:
        num=25#设置最多显示25个子图
    for i in range(0,num):
        ax=plt.subplot(5,5,i+1)#获取当前要处理的子图
        ax.imshow(np.reshape(images[index],(28,28)),cmap="binary")
        title="label="+str(np.argmax(labels[index]))#构建该图上要显示的title信息
        if len(prediction)>0:
            title+=",predict="+str(prediction[index])

        ax.set_title(title,fontsize=10)#显示图上的title信息
        ax.set_xticks([])#不显示坐标轴
        ax.set_yticks([])
        index+=1
    plt.show()

独热标码：

#MNIST手写数字识别数据集
import tensorflow as tf 
import tensorflow.examples.tutorials.mnist.input_data as input_data
import numpy as np 
import matplotlib.pyplot as plt

mnist=input_data.read_data_sets("MNST_data/",one_hot=True)
#独热编码如何取值
print(mnist.train.labels[1])
#argmax()取出独热编码中最大值的下标
print(np.argmax(mnist.train.labels[1]))