zoukankan      html  css  js  c++  java
  • andrew ng machine learning week1 课堂笔记

    吴恩达机器学习全套笔记博客地址
     
     

    一、 什么是机器学习:两种定义

    定义1:Arthur Samuel described it as: "the field of study that gives computers the ability to learn without being explicitly programmed." 机器学习就是赋予机器不用精确编程便能学习的能力。

    定义2:Tom Mitchell provides a more modern definition: "A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E."如果一个计算机程序针对任务T的表现P由于经验E的存在而被改善,我们说就这个程序关于任务T和表现P,对经验E进行了学习(这个翻译真的是有点绕口,简单说就是机器表现因为经验而得到改善,那么就说是机器从经验中学得)。

    二、监督学习和无监督学习:Supervised Learning and unsupervised Learning

    三、模型表示

    他们之间的关系以及经典房价预测问题中假设的定义(单变量线性回归)

     

    问题是参数的选取,我们应该尽可能地让假设值与真实值接近,也是就是最小化我们的代价函数,代价函数的定义如下。

    四、代价函数cost function 

    This takes an average difference (actually a fancier version of an average) of all the results of the hypothesis with inputs from x's and the actual output y's.代价函数的意义是假设预测值与真实值之间的差异,这里是均方误差(Mean squared error)。

     总结一下,这就是我们要解决的问题:

     

    现在应该通过什么方法取得最优的参数使得代价函数J的值为极小值点呢?——梯度下降法

    通过选取合适的参数,在等值线图中的中心点也就是最小值点,得到假设函数,从而进行其他房价的预测。

    梯度下降法的大纲:

    1. 初始化参数值

    2. 不断改变参数以朝着代价减小的方向前进,知道我们得到我们需求的最小值

    学习速率α对于梯度下降法的影响:

    当越来越接近局部最小值时,梯度下降法会自动地迈出更小的步子,所以不需要减小α的值:

     五、梯度下降法求解一元线性回归

    梯度值的计算:

    每一次迭代中参数的变化:

    迭代过程演示:

    批梯度下降法,每一次参数迭代使用训练集中的所有样本;而随机梯度下降法是更新所有的参数只用一个样本。

    随机梯度、梯度和批量梯度的区别

  • 相关阅读:
    webpack 关于跨域的配置
    如何使用css变量
    样式重置
    vue+element_ui上传文件,并传递额外参数(自动上传)
    LeetCode-46-全排列
    LeetCode-39-组合总数
    LeetCode-33-搜索旋转排序数组
    LeetCode-207-课程表
    LeetCode-15-三数之和
    LeetCode-盛最多水的容器
  • 原文地址:https://www.cnblogs.com/twomeng/p/9847934.html
Copyright © 2011-2022 走看看