机器学习——支持向量机

SVM就是试图把棍放在一堆球中的最佳位置，好让在棍的两边有尽可能大的间隙。这个间隙就是球到棍的距离。

• 支持向量机：找到分类界面，使支持向量间的间隔最大，支持向量到分割界面的距离最小
• 支持向量是通过到分割界面距离最小的点的向量，且两向量间的距离最大，在二维中其实就是点
• 取支持向量间的最大间隔是为了若当再添加一个点到一类中，最大间隔可以容许，仍然可以进行有效分割
• 支持向量到分割界面(决策面)距离最小意思是这些点最为接近

导入类库

from sklearn.datasets import load_digits
from sklearn.metrics import classification_report
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.svm import LinearSVC
import numpy as np
import matplotlib.pyplot as plt

代码

def hw_recognition():
    digits = load_digits()

    X_train, X_test, Y_train, Y_test = train_test_split(digits.data, digits.target, test_size=0.25, random_state=23)

    ss = StandardScaler()
    # fit 是实例方法，必须由实例调用
    X_train = ss.fit_transform(X_train)
    X_test = ss.transform(X_test)

    lsvc = LinearSVC()
    lsvc.fit(X_train, Y_train)

    # 预测测试集数据
    # Y_predict = lsvc.predict(np.array([X_test[90]]))
    # print(Y_predict)

    # 生成评估报告
    # 精确率precision = 正正 / (正正 + 反正)
    # 按列计算
    #
    # 召回率recall = 正正 / (正正 + 正反)
    # 按行计算
    # 按行解释正反：正正-真正的正例预测为正例；正反-真正的正例预测为反例
    #            反正-真正的反例预测为正例；反正-真正的反例预测为正例
    Y_predict = lsvc.predict(X_test)
    print(classification_report(Y_test, Y_predict, target_names=digits.target_names.astype(str)))

    # 对比预测的数字与原图像中的数字
    # Y_predict = lsvc.predict(np.array([digits.data[307]]))
    # plt.imshow(digits.images[307])
    # print(Y_predict)
    # plt.show()

解析

真实数据       预测数据
---------------------------
           18正     12反   
 20正      12正正    8正反  
 10反       6反正    4反反  
---------------------------

精确率precision = 正正/(正正+反正)            按列计算

召回率recall = 正正/(正正+正反)            按行计算

运行结果

精确率      召回率
             precision    recall  f1-score   support

          0       1.00      1.00      1.00        37
          1       0.86      0.90      0.88        48
          2       1.00      0.98      0.99        46
          3       0.91      0.98      0.94        41
          4       1.00      0.96      0.98        49
          5       0.91      0.98      0.94        50
          6       0.98      0.98      0.98        41
          7       0.92      0.95      0.93        37
          8       0.93      0.89      0.91        46
          9       1.00      0.91      0.95        55

avg / total       0.95      0.95      0.95       450