zoukankan      html  css  js  c++  java
  • 逻辑回归与梯度下降法

    广义线性模型:因变量不服从正态分布时,但所服从的的分布属于指数族分布,这样的模型成为广义线性模型。

    • 逻辑回归公式推导:

    定义:    

            

    联结函数:      

             

    则,

             

             

             

    记,         

             

    则有,    

             

             

            

    •  损失函数的推导:

    (利用极大似然估计)

    似然函数:

            

             

    两边取对数(单调性不变):

            

    损失函数:

            

    • 梯度下降法更新参数:

    梯度方向时函数值增加最快的方向

     

     

    迭代更新参数:

       

    •  预测

    通过不断更新,得到最终迭代后的参数.

    预测函数为:

    ,则 i 为正类,否则为负类。

     

     

     

     

     

  • 相关阅读:
    [IMX6]Android6.0移植和分析
    Android设计原则和设计模式
    Linux内核源码目录
    Android源码博客目录
    Android应用博客目录
    imx6的kernel3.4.15启动流程
    dd命令
    shell
    i.mx6 Android5.1.1 build解析
    git总结
  • 原文地址:https://www.cnblogs.com/jiaxinwei/p/12404366.html
Copyright © 2011-2022 走看看