惩罚因子C用来表示对于个别点的重视程度。其大小应该选择适中，不然会对于最后的准确率造成一定的影响。
若令惩罚因子C为无穷大，则SVM退化为硬间隔分类器，此时使用线性核只能处理线性可分的样本（因为对于线性不可分的样本，无法找到一个超平面可以正确划分所有样本，于是模型参数不存在可行解）；
若令惩罚因子C为适当值，则使用线性核的SVM可以处理线性或近线性的样本（这是因为此时允许分类器在某些样本上出错，所以对于近线性的样本，可以找到一个超平面将大部分样本正确划分）。