zoukankan      html  css  js  c++  java
  • 线性方法用于Binary clssification

    到现在,我们已经学过三种线性方法:linear classification、Linear Regression、logistic Regression。这三种方法的核心都是clip_image002,不同点在于:最小化的error不同。linear classification的error是0/1 error;Linear Regression的error是squared error;logistic Regression的error是cross-entropy error。

    有没有可能使用Linear Regression和logistic Regression来进行分类呢?

    回想《关于Noise and Error主题的一些小知识》中关于err与err’的论述。我们最终的目的是最小化0/1 error,即:分错类的情况很少出现。而我们可以用squared error 或cross-entropy error去训练算法。

    err=【0/1 error】

    err’= 【squared error】 or 【cross-entropy error】

    image

    对于某一数据点,err与err’相差多少呢?

    image

    可以看出,err'均大于err,但是【cross-entropy error】要小于【squared error】

    image

    总结:

    image

    在实际中,我们使用logistic Regression进行binary classification的效果要好于pocket algorithm

  • 相关阅读:
    css资料汇总
    typescript 点滴
    vue-cli3点滴
    item2的使用方法推介
    rfc文档
    websocket
    g2
    常用的正则积累
    Vue-20190623点滴
    写一个webpackLoader
  • 原文地址:https://www.cnblogs.com/wangyanphp/p/5464550.html
Copyright © 2011-2022 走看看