zoukankan      html  css  js  c++  java
  • 机器学习模型| 监督学习| 逻辑回归算法

    逻辑斯蒂回归

      线性回归的问题 —— 怎样判断肿瘤是否恶性?

             

         线性回归健壮性不够,一旦有噪声,立刻“投降”

       

    逻辑斯蒂回归 —— 分类问题

         

    Sigmoid函数(压缩函数) 0-1之间阶跃函数的平滑   --  解决阶跃函数非线性度不够的问题

       redu线性整流函数,比阶跃好点

           

             

    我们将线性回归拟合出来的值用压缩函数进行压缩,压缩完成后用 0.5 做一个概率的判定边界,就能把样本分成两类,即正样本和负样本;

              

         

    sigmoid函数中(神经网络中用的多),e-z 中 z 的正负决定了 g(z) 的值最后是大于 0.5 还是小于 0.5;即 z 大于 0 时,g(z) 大于 0.5,z 小于 0 时,g(z)小于 0.5
    当 z 对应的表达式为分类边界时,恰好有分类边界两侧对应 z 正负不同,也就使得分类边界两边分别对应 g(z)>0.5 和 g(z)<0.5,因此根据 g(z) 与 0.5 的大小关系,就可以实现分类

    逻辑斯谛回归损失函数

    平方损失函数的问题

               

                 

       

        

          h(oX)为预测值,y是真实值;

                 

     梯度下降法求解

    机器学习or监督学习的目的就是这个梯度下降函数(损失函数 和正则画像

  • 相关阅读:
    JDBC访问数据库的基本步骤是什么?
    Java 为每个原始类型提供了哪些包装类型:
    JDBC访问数据库的基本步骤是什么?
    String 类的常用方法都有那些?
    面向对象三大特性
    三个与取整有关的方法:
    ==和equals方法究竟有什么区别?
    &和&&的区别?
    说一说Servlet的生命周期
    spring框架学习
  • 原文地址:https://www.cnblogs.com/shengyang17/p/11442355.html
Copyright © 2011-2022 走看看