之前的SVM非常的hard,要求每个点都要被正确的划分,这就有可能overfit,为此引入了Soft SVM,即允许存在被错分的点,将犯的错放在目
标函数中进行优化,非常类似于正则化。
将Soft SVM进行对偶转化后,发现与之前的hard SVM非常的像,只是其中一个系数多了个上界。
通过对阿尔法值的范围的讨论,将SVs分成三类:边界外的、free vector、bounded vector
最后讲的是模型的选择。需要注意的是,我们可以根据support vector的数量来确定cross validation的上限。
参考:http://www.cnblogs.com/xbf9xbf/p/4622646.html
http://www.cnblogs.com/bourneli/p/4216750.html