单变量线性回归问题（TensorFlow实战）

简单例子介绍Tensorflow实现机器学习的思路，重点步骤：

1. 生成人工数据集及其可视化
2. 构建线性模型
3. 定义损失函数
4. 定义优化器、最小损失函数
5. 训练结果的可视化
6. 利用学习到的模型进行预测

import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt

np.random.seed(5)
# 采用np生成等差数列，范围在-1~1之间生成100个点
x_data=np.linspace(-1,1,100)
# y=2x+1+噪声，其中噪声的维度和x_data一致
y_data=2*x_data+1.0+np.random.randn(*x_data.shape)*0.4

# 画图 y=2x+1
plt.scatter(x_data,y_data)
plt.plot(x_data,2*x_data+1,color='red',linewidth=3)
# plt.show()

# 定义训练数据的占位符，x是特征值，y是标签值
x=tf.placeholder("float",name="x")
y=tf.placeholder("float",name="y")

# 定义模型函数
def model(x,w,b):
    return tf.multiply(x,w)+b

# tf.Variable的作用时保存和更新函数
w=tf.Variable(1.0)      #斜率
b=tf.Variable(0.0)      #截距
pred=model(x,w,b)       #预测值

# 迭代次数和学习率
train_epochs=10
learning_rate=0.05

# 损失函数用来描述预测值与真实值之间的误差，从而指导模型收敛方向，均方差MSE
loss=tf.reduce_mean(tf.square(y-pred))
# 定义优化器optimizer，初始化一个GradientDescentOptimizer，设置学习率和优化目标，最小值损失
optimizer=tf.train.GradientDescentOptimizer(learning_rate).minimize(loss)

sess=tf.Session()
init=tf.global_variables_initializer()
sess.run(init)

# 模型训练阶段，设置迭代轮次，每次通过样本逐个输入模型，进行梯度下降优化操作
# 每次迭代，绘制出模型曲线

# 开始训练，轮次为epoch，采用SGD随机梯度下降优化方法
step=0  #记录训练步数
loss_list=[]    #用于保存loss值的列表

for epoch in range(train_epochs):
    for xs,ys in zip(x_data,y_data):
        _,losss=sess.run([optimizer,loss],feed_dict={x:xs,y:ys})
    # 显示损失值loss
    # display_step：控制报告的粒度
    # 例如，如果display_step设为2，则将每训练2个样本输出一次损失值
    # 与超参数不同,修改display_step 不会更改模型所学习的规律
        loss_list.append(losss)
        step=step+1
        display_step=10
        if step%display_step==0:
            print("Train Epoch:",'%02d'%(epoch+1),"Step:%03d"%(step),"loss=","{:.9f}".format(losss))
    b0temp=b.eval(session=sess)
    w0temp=w.eval(session=sess)
    plt.plot(x_data,w0temp*x_data+b0temp)
plt.plot(loss_list,'r+')
plt.show()

# 训练完成后，打印查看参数
print("w:",sess.run(w))
print("b",sess.run(b))

plt.scatter(x_data,y_data,label='Original data')
plt.plot(x_data,x_data*sess.run(w)+sess.run(b),label='Fitted line',color='r',linewidth=3)
plt.legend(loc=2)   #通过参数loc指定图例位置
# plt.show()

x_test=3.21
predict=sess.run(pred,feed_dict={x:x_test})
print("预测值：%f"%predict)

target=2*x_test+1.0
print("目标值%f"%target)