机器学习——KMeans

导入类库

from sklearn.cluster import KMeans
from sklearn.datasets import make_blobs
import numpy as np
import matplotlib.pyplot as plt

　　KMeans算法的过程：(假如有两类)

1. 随机选择两个点作为聚类的中心
2. 计算所有点距离两个中心的距离，选择距离较近的点作为类别。（例如：距离蓝点近，类别是蓝色）
3. 计算已经分好类的各组数据的平均值，使用各组数据的平均值中心作为新的中心
4. 以新的中心为依据跳转至第2步
5. 直到收敛(两次迭代的数值没有明显的变化：新中心点距离上一次中心点的距离小于某个阈值，例如：0.03)

代码

plt.figure(figsize=(6, 3))
n_samples = 1500
random_state = 170
'''
make_blobs聚类数据生成器：用来生成聚类算法的测试数据
n_samples：待生成的样本的总数
n_features：每个样本的特征数
centers：类别数
cluster_std：每个类别的方差，放在列表中
'''
X, y = make_blobs(n_samples=n_samples, random_state=random_state)
'''
KMeans是结果受初始值影响的局部最优的迭代算法
n_clusters：K值，类别数
max_iter：最大迭代次数，凸数据集可忽略该值，非凸数据集可能很难收敛，可指定最大迭代次数让算法可以及时推出循环
n_init：用不同的初始化质心运行算法的次数，默认是10，K值较大时，可适当增大该值
init：初始值选择的方式，默认为k-means++
algorithm：auto、full、elkan；auto自动选择，数据值稀疏时选择full，数据稠密时选择elkan
'''
y_pred = KMeans(n_clusters=2, random_state=random_state).fit_predict(X)

# print(X[:, 0])
# print(y)
# for i in y_pred:
#     print(i)

# 根据颜色画出散点图
plt.subplot(121)
plt.scatter(X[:, 0], X[:, 1], c=y_pred)
plt.subplot(122)
plt.scatter(X[:, 0], X[:, 1], c=y)
plt.show()