大三寒假学习进度（1）

tensorflow学习

• 线性回归问题

  • 单变量线性回归算法

    预测模型

    f(x) = ax +b
    求解 a 和 b 根据 x 预测f(x)

    方法

    1. 使用均方差定义损失函数

    • 均方差 ：预测值 f(x) 和真实值 y 之间的差的平方取均值,也就是((sum_{i=1}^n)(f(x_i)-y)²)/n (n为样本样数)

    2. 找到合适的a和b，使得（f(x)-y)²越小越好

    3. 要找到合适的a和b就要使用优化算法

    • 梯度下降算法 : 一种致力于找到函数极值点的算法（沿梯度下降的方向求解极小值）

    步骤

    1. 随机初始化 a 和 b 一批值 ，并根据x 和y 计算损失函数
    2. 计算梯度，找到变化最快的方向
    3. 沿着梯度的方向不断改变a 和 b 的值，直到最终找到极值点