zoukankan      html  css  js  c++  java
  • logistic regression中的cost function选择

    一般的线性回归使用的cost function为:

    但由于logistic function:

    本身非凸函数(convex function), 如果直接使用线性回归的cost function的话,很难到达全局最优解。

    相反,很容易陷入局部最优解然后就认为到达收敛条件了。因此,logistic regression中使用的cost function为:

    其图像为一个碗(bowl shape function),碗的底部为(1,0)。可以看出:当预测正确且非常自信时(h(x) = y),

    cost function 为0; 当完全预测错误且非常自信时(h(x) = !y), cost function 为 inf。

  • 相关阅读:
    Java基础语法
    C语言练习题目
    C语言进阶(1)
    C语言易错点
    SQL语句入门
    C语言算法基础
    C语言算法入门
    嵌入式入门
    C语言基础(3)
    C语言基础(2)
  • 原文地址:https://www.cnblogs.com/instant7/p/4093435.html
Copyright © 2011-2022 走看看