zoukankan      html  css  js  c++  java
  • 五、SVM推导过程

     

    SVM

      时间复杂度一般为O(N³)

      最重要的是推导过程

      NIPS(机器学习顶级会议)

     

      如果给定一个训练集,我们的目标是给定一个边界(一条线),离他最近的训练集样本路越宽越好

    下面的几张图反映了SVM的推导过程,可惜,这个文本编辑框不太熟,没法解释具体个中过程,只好

      先说中间涉及的各个知识。

     KEY IDEAS

     推导过程:

      

                    图(1)

      涉及到向量的投影,,以中间距离正负样本点几乎等宽的粗线为分界线 l,从原点引出一条向量W,垂直于 l,X正为正样本点,

    X负为负样本点,大于1为正,小于1为负,以此分开。

       

                    图(2)

         将图(1)中右侧两个式子合并,得到②式,X为样本区域附近

      

                     图(3)

      向量W的max是(正样本点-负样本点)*单位1,WIDTH的式子展开,将左下角的②式带入,

    消元,只剩下2倍的向量W的长度值。

       

                     图(4)

      转化成求左下角的式子。。。

      

                         图(5)

      上图此处要用到多元偏导的知识,求极值,得出方框里的值

      

                         图(6)

      化简后的值。

       

                     图(7)

      终极BOSS!

    核函数的作用: 将高维映射为低维,这一点涉及的知识点比较系统,有时间的话,重新整理发布一下,^_^

     

                    图(8)

     

       

                     图(9)

     

     

  • 相关阅读:
    pycharm 安装第三方库报错:AttributeError: 'module' object has no attribute 'main'
    CentOS7.x 设置显示vi/vim行号
    centos下使用yum 安装pip
    kubelet服务启动失败,错误代码255
    服务器时间设置
    解决umount.nfs: /data: device is busy 问题
    vim修改权限: E45: 已设定选项 'readonly' (请加 ! 强制执行)
    Postgresql 截取字符串
    《算法竞赛进阶指南》0x31质数 阶乘分解质因数
    《算法竞赛进阶指南》0x31质数 POJ2689 Prime Distance
  • 原文地址:https://www.cnblogs.com/qianyuesheng/p/8453881.html
Copyright © 2011-2022 走看看