深度学习基础篇之逻辑回归拟合二维数据

　　从今天起，我会在这里记录一下学习深度学习所留下的足迹，目的也很简单，手头有近3w个已经标记好正确值得验证码，想要从头训练出一个可以使用的模型，

虽然我也知道网上的相关模型和demo很多，但是还是非常希望自己可以亲手搞一个能用的出来，学习书籍主要是：李金洪老师的《深度学习之Tensorflow 入门、原理与进阶实战》。

另外，在我将验证码识别模型训练出来后也会将源代码、模型，以及近3w个验证码完全开源出来。共勉之。

　　

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @Time    : 2019/9/23 21:27
# @Author  : SongSa
# @Desc    : 
# @File    : 拟合二维数据.py
# @Software: PyCharm

import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt

"""
深度学习分为4个步骤：
    准备数据
    搭建模型
    迭代训练
    使用模型
"""

########准备数据########
train_X = np.linspace(-1, 1, 100)
train_Y = 2 * train_X + np.random.randn(100) * 0.3  # y = 2x  但是加入了噪声
plt.plot(train_X, train_Y, 'ro', label='original data')  # 显示模拟的数据点
plt.legend()  # 拥有显示图例label
plt.show()


plotdata = {"batchsize":[], "loss":[]}
def moving_average(a, w=10):
    if len(a) < w:
        return a[:]
    return [val if idx < w else sum(a[(idx-w):idx])/w for idx, val in enumerate(a)]


########搭建模型########
# 模型分为两个方向：正向和反向
# 创建模型
X = tf.placeholder("float")  # 占位符
Y = tf.placeholder("float")
# 模型参数
W = tf.Variable(tf.random_normal([1]), name="weight")  # W被初始化为[-1, 1]的随机数，形状为一维的数字
b = tf.Variable(tf.zeros([1]), name="bias")  # b的初始化为0
# 前向结构
z = tf.multiply(X, W) + b  # tf.multiply()是相乘的函数  z = X * W + b

# 反向搭建模型
# 神经网络在训练时数据流向有两个方向，先通过正向生成一个值，然后观察其与真实值的差距，再通过反向过程将里边的参数进行调整，
# 接着在生成正向预测值来与真实值进行比对，如此循环，知道将参数调整为合适值为止，反向传播会引入一些算法来实现对参数的正确调整。
cost = tf.reduce_mean(tf.square(Y - z))  # cost等于生成值与真实值的平方差
# tf.reduce_mean()  用于计算张量沿着指定轴的平均值
# tf.square() 用于计算Y-z的平方
learning_rate = 0.01  # 学习率 (值越大表明调整的速度越大，但不精准，反之亦然)
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost)  # 封装好的梯度下降算法


########迭代训练########
# Tensorflow中的任务是通过session来进行的
init = tf.global_variables_initializer()  # 初始化所有变量
#定义参数
training_epochs = 20
display_stop = 2
# 启动session
with tf.Session() as sess:
    sess.run(init)
    plotdata = {"batchsize":[], "loss":[]}  # 存放批次值和损失值
    for epoch in range(training_epochs):
        for (x, y) in zip(train_X, train_Y):
            sess.run(optimizer, feed_dict={X:x, Y:y})

        # 显示训练中的详细信息
        if epoch % display_stop == 0:
            loss = sess.run(cost, feed_dict={X:train_X, Y:train_Y})
            print("Epoch:", epoch+1, "cost=", loss, "W=", sess.run(W), "b=", sess.run(b))
            if not (loss == "NA"):
                plotdata['batchsize'].append(epoch)
                plotdata["loss"].append(loss)

    print("Finished!")
    print("cost=", sess.run(cost, feed_dict={X:train_X, Y:train_Y}), "W=", sess.run(W), "b=", sess.run(b))

    # 训练模型可视化
    plt.plot(train_X, train_Y, 'ro', label="Original data")
    plt.plot(train_X, sess.run(W) * train_X + sess.run(b), label="Fittedline")
    plt.legend()
    plt.show()

    plotdata['avgloss'] = moving_average(plotdata["loss"])
    plt.figure(1)
    plt.subplot(211)
    plt.plot(plotdata["batchsize"], plotdata['avgloss'], 'b--')
    plt.ylabel("Loss")
    plt.title("Minibatch run vs.  Training loss")
    plt.show()


########使用模型########
    print('使用模型：

')
    print("x=0.2, z=", sess.run(z, feed_dict={X:0.2}))

最后，打个广告: 想了解更多Python关于爬虫、数据分析的内容，获取大量爬虫爬取到的源数据，欢迎大家关注我的微信公众号：悟道Python