05_无监督学习--聚类模型--K 均值

无监督学习--聚类模型--K 均值0.引入依赖1.数据的加载和预处理2.算法实现3.测试

---

无监督学习--聚类模型--K 均值

0.引入依赖

import numpy as np
import matplotlib.pyplot as plt

# 这里直接 sklearn 里的数据集
from sklearn.datasets.samples_generator import make_blobs

1.数据的加载和预处理

x, y = make_blobs(n_samples=100, centers=6, random_state=1234, cluster_std=0.6)
# x # array([[-0.02708305,  5.0215929 ], ..., [-4.7583093 ,  5.85803377]])
# x.shape # (100, 2)
# y.shape # (100,)

plt.figure(figsize=(9, 9))
plt.scatter(x[:,0], x[:,1], c=y)
plt.show()

作图如下：

2.算法实现

# 引入 scipy 库中的距离函数，默认实现是欧式距离
from scipy.spatial.distance import cdist

class K_Means(object):
    # 初始化，参数 n_clusters(K)、max_iter(迭代次数)、centroids(初始质心)
    def __init__(self, n_clusters=6, max_iter=300, centroids=[]):
        self.n_clusters = n_clusters
        self.max_iter = max_iter
        self.centroids = np.array(centroids, dtype=np.float)

    # 定义训练模型方法，实现 K-means 聚类过程
    def fit(self, data):
        # 假如没有指定初始质心，就随机选取 data 中的点作为质心
        if (self.centroids.shape == (0,)):
            # 从 data 中随机生成 0 到 data 行数的 6 个整数，作为索引值
            self.centroids = data[np.random.randint(0, data.shape[0], self.n_clusters) ,:]

        # 开始迭代
        for i in range(self.max_iter):
            # 1.计算距离，得到的是一个 100x6 的矩阵，该矩阵的每一行含义是：一个样本点跟所有质心的距离
            distances = cdist(data, self.centroids)

            # 2.对距离按由近到远排序，选取最近的质心点的类别，作为当前点的分类
            c_index = np.argmin(distances, axis=1) # 得到 100x1 的矩阵

            # 3.对每一类数据进行均值计算，更新质心点的坐标
            for i in range(self.n_clusters): # 遍历每一类
                # 排除掉没有出现在 c_index 里的类别
                if i in c_index:
                    # 选择所有类别是 i 的点，取 data 里面坐标的均值，更新第 i 个质心
                    self.centroids[i] = np.mean(data[c_index==i], axis=0) # 得到一行数据，使用了布尔索引

    # 定义预测模型方法
    def predict(self, samples):
        # 跟上面一样，先计算距离，然后读取距离最近的那个质心的类别
        distances = cdist(samples, self.centroids)
        c_index = np.argmin(distances, axis=1) # 得到 100x1 的矩阵

        return c_index

# 测试
distances = np.array([[121, 221, 32, 43],
                      [121, 332, 166, 52],
                      [96, 411, 56, 158],
                      [45, 235, 542, 156],
                      [140, 54, 63, 255],
                     ], dtype=np.float)
c_index = np.argmin(distances, axis=1)
print(c_index)

x_new =x[0:5]
print(x_new)
print(c_index==2)
print(x_new[c_index==2])
np.mean(x_new[c_index==2], axis=0)

输出结果如下：

[2 3 2 0 1]
[[-0.02708305  5.0215929 ]
 [-5.49252256  6.27366991]
 [-5.37691608  1.51403209]
 [-5.37872006  2.16059225]
 [ 9.58333171  8.10916554]]
[ True False  True False False]
[[-0.02708305  5.0215929 ]
 [-5.37691608  1.51403209]]

array([-2.70199956,  3.26781249])

3.测试

# 定义一个绘制子图的函数
def plotKMeans(x, y, centroids, subplot, title):
    # 分配子图，121 表示 1 行 2 列的子图中的第一个
    plt.subplot(subplot)
    plt.scatter(x[:,0], x[:,1], c='r')
    # 画出质心点
    plt.scatter(centroids[:,0], centroids[:,1], c=np.array(range(6)), s=100)
    plt.title(title)

kmeans = K_Means(max_iter=300, centroids=np.array([[2, 1],[2, 2],[2, 3],[2, 4],[2, 5],[2, 6]]))

plt.figure(figsize=(18, 9))
plotKMeans(x, y, kmeans.centroids, 121, 'Initial State')

# 开始聚类
kmeans.fit(x)
plotKMeans(x, y, kmeans.centroids, 122, 'Final State')

# 开始预测
x_new = np.array([[0, 0],[10, 7]])
y_pred = kmeans.predict(x_new)

print(kmeans.centroids)
print(y_pred)

plt.scatter(x_new[:,0], x_new[:,1], c='black', s=100)

输出结果如下：

[[ 5.76444812 -4.67941789]
 [-2.89174024 -0.22808556]
 [-5.89115978  2.33887408]
 [-4.53406813  6.11523454]
 [-1.15698106  5.63230377]
 [ 9.20551979  7.56124841]]
[1 5]

<matplotlib.collections.PathCollection at 0x1543350c518>

作图如下：