TensorFlow学习_NN

# -*- coding=UTF8 -*-
#author = Lee

import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data

mnist = input_data.read_data_sets('mnist', one_hot=True)

#输入数据,权重，偏差
input_x = tf.placeholder(tf.float32, shape = [None, 28 * 28])
y_actual = tf.placeholder(tf.float32, shape = [None, 1 * 10])         #实际值
W = tf.Variable(tf.zeros([784, 10]))
b = tf.Variable(tf.zeros([10]))

#从测试Test数据集中选取3000个手写数字的图片和对应的标签
test_x = mnist.test.images[:3000] # 图片
test_y = mnist.test.labels[:3000] # 标签


y_predict = tf.nn.softmax(tf.matmul(input_x, W) + b)                  #预测值

#交叉熵是用来衡量我们的预测用于描述真相的低效性
cross_entropy = - tf.reduce_sum(y_actual * tf.log(y_predict))

#使用梯度下降算法（GradientDescent）来不断地修改变量以降低成本
train_op = tf.train.GradientDescentOptimizer(learning_rate = 0.01).minimize(cross_entropy)

init = tf.global_variables_initializer()

#检测预测是否真实标签匹配(索引位置一样表示匹配)
correc_predic = tf.equal(tf.argmax(y_actual, 1), tf.argmax(y_predict, 1))
accuracy = tf.reduce_mean(tf.cast(correc_predic, "float32"))

sess = tf.Session()
sess.run(init)

for i in range(20000):
    batch = mnist.train.next_batch(50)
    train_loss, train_op_ = sess.run([cross_entropy, train_op], {input_x: batch[0], y_actual: batch[1]})
    if i % 100 == 0:
        accuracy_test = sess.run(accuracy, {input_x: test_x, y_actual: test_y})
        print('Step:{0} , Accuracy:{1} , Loss:{2}'.format(i, accuracy_test,train_loss))

相对CNN来说NN还是相对简单许多，这里是官网给的流程图

专门去TF社区看了下，专门对softmax有很详细的讲解

softmax可以看成是一个激励（activation）函数或者链接（link）函数，把我们定义的线性函数的输出转换成我们想要的格式，也就是关于10个数字类的概率分布。

因此，给定一张图片，它对于每一个数字的吻合度可以被softmax函数转换成为一个概率值。