zoukankan      html  css  js  c++  java
  • 机器学习(八) 多项式回归与模型泛化(下)

    六、验证数据集与交叉验证

    七、偏差方差平衡

    偏差方差权衡 Bias Variance Trade off

    偏差 Bias

    导致偏差的主要原因:

    对问题本身的假设不正确!

    如:非线性数据使用线性回归

    欠拟合 underfitting

    方差 Variance

    数据的一点点扰动都会较大的影响模型

    通常原因,使用的模型太复杂

    如高阶多项式回归。

    过拟合 overfitting

    偏差和方差

    有一些算法天生高方差,KNN

    非参数学习通常都是高方差算法。因为不对数据进行任何假设。

    有一些算法天生是高偏差算法。如线性回归。

    参数学习通常都是高偏差算法。因为对数据具有极强的假设。

    大多数算法具有相应的参数, 可以调整偏差和方差。

    如 KNN中的 K

    如线性回归中使用多项式回归

    偏差和方差通常是矛盾的。

    降低偏差,会提高方差。

    降低方差,会提高偏差。

    八、模型泛化与岭回归

     

    九、LASSO  Regularization

     

     

     

     

    十、L1, L2和弹性网络

     

     

    我写的文章只是我自己对bobo老师讲课内容的理解和整理,也只是我自己的弊见。bobo老师的课 是慕课网出品的。欢迎大家一起学习。

     我写的文章只是我自己对bobo老师讲课内容的理解和整理,也只是我自己的弊见。bobo老师的课 是慕课网出品的。欢迎大家一起学习。

     我写的文章只是我自己对bobo老师讲课内容的理解和整理,也只是我自己的弊见。bobo老师的课 是慕课网出品的。欢迎大家一起学习。

  • 相关阅读:
    汇编实验程序
    javascript事件列表解说
    c#自动向网页Post信息并提取返回的信息
    C# 全半角转换
    判断 wp 是否是活跃页面
    Font Support for Windows Phone
    C# sqlite for wp7
    C#例子 易懂故事 接口 委托 事件 异步通知 好玩.
    C#用事件模式实现通知 from: http://www.cnblogs.com/guilin_gavin/archive/2011/08/18/2144397.html
    wp7 webclient 的 post 方式获取数据
  • 原文地址:https://www.cnblogs.com/zhangtaotqy/p/9566363.html
Copyright © 2011-2022 走看看