作业3

1. 机器学习的步骤

数据，模型选择，训练，测试，预测

2. 安装机器学习库sklearn

pip list 查看版本

python -m pip install --upgrade pip

pip install -U scikit-learn

 

pip uninstall sklearn

pip uninstall numpy

pip uninstall scipy

pip install scipy

pip install numpy

pip install sklearn

 https://scikit-learn.org/stable/install.html

 

2. 导入sklearn的数据集

from sklearn.datasets import load_iris

iris = load_iris()

iris.keys()

X = iris.data # 获得其特征向量

y = iris.target # 获得样本标签

iris.feature_names # 特征名称

3.K均值算法

K-means是一个反复迭代的过程，算法分为四个步骤：

  （x,k,y)

1） 选取数据空间中的K个对象作为初始中心，每个对象代表一个聚类中心；

  def initcenter(x, k): kc

2） 对于样本中的数据对象，根据它们与这些聚类中心的欧氏距离，按距离最近的准则将它们分到距离它们最近的聚类中心（最相似）所对应的类；

  def nearest(kc, x[i]): j

  def xclassify(x, y, kc):y[i]=j

3） 更新聚类中心：将每个类别中所有对象所对应的均值作为该类别的聚类中心，计算目标函数的值；

  def kcmean(x, y, kc, k):

4） 判断聚类中心和目标函数的值是否发生改变，若不变，则输出结果，若改变，则返回2）。

  while flag:

      y = xclassify(x, y, kc)

      kc, flag = kcmean(x, y, kc, k)

 

参考官方文档: 

http://scikit-learn.org/stable/modules/generated/sklearn.cluster.KMeans.html#sklearn.cluster.KMeans

 

4. 作业：

1）. 扑克牌手动演练k均值聚类过程：>30张牌，3类

2）. *自主编写K-means算法 ，以鸢尾花花瓣长度数据做聚类，并用散点图显示。（加分题）

3）. 用sklearn.cluster.KMeans，鸢尾花花瓣长度数据做聚类，并用散点图显示.

4）. 鸢尾花完整数据做聚类并用散点图显示.

5）.想想k均值算法中以用来做什么？

 答：1.

2.

3.

 4.

5.用来分类，比如种子的好坏程度，控制渔网大小限制过渡捕捞等等

 代码如下：

import numpy as np
from sklearn.datasets import load_iris

iris = load_iris()
x = iris.data[:, 1]
y = np.zeros(150)


def initcent(x, k):  # 初始聚类中心数组
    return x[0:k].reshape(k)


def nearest(kc, i):  # 数组中的值，与聚类中心最小距离所在类别的索引号
    d = (abs(kc - i))
    w = np.where(d == np.min(d))
    return w[0][0]


def kcmean(x, y, kc, k):  # 计算各聚类新均值
    l = list(kc)
    flag = False
    for c in range(k):
        m = np.where(y == c)
        n = np.mean(x[m])
        if l[c] != n:
            l[c] = n
            flag = True  # 聚类中心发生变化
    return (np.array(l), flag)


def xclassify(x, y, kc):
    for i in range(x.shape[0]):  # 对数组的每个值分类
        y[i] = nearest(kc, x[i])
    return y


k = 3
kc = initcent(x, k)

flag = True
print(x, y, kc, flag)
while flag:
    y = xclassify(x, y, kc)
    kc, flag = kcmean(x, y, kc, k)
print(y, kc, type(kc))

import matplotlib.pyplot as plt

plt.scatter(x, x, c=y, s=50, cmap='rainbow', marker='p', alpha=0.5);
plt.show()

# 3.用sklearn.cluster.KMeans，鸢尾花花瓣长度数据做聚类并用散点图显示，鸢尾花完整数据做聚类并用散点图显示。
from sklearn.cluster import KMeans
import numpy as np
from sklearn.datasets import load_iris
import matplotlib.pyplot as plt

data = load_iris()
iris = data.data
petal_len = iris[:, 2:3]
print(petal_len)
k_means = KMeans(n_clusters=3)  # 三个聚类中心
result = k_means.fit(petal_len)  # Kmeans自动分类
kc = result.cluster_centers_  # 自动分类后的聚类中心
y_means = k_means.predict(petal_len)  # 预测Y值
plt.scatter(petal_len, np.linspace(1, 150, 150), c=y_means, marker='+')
plt.show()

#4. 鸢尾花完整数据做聚类并用散点图显示.
from sklearn.cluster import KMeans
import numpy as np
from sklearn.datasets import load_iris
import matplotlib.pyplot as plt
data = load_iris()
iris = data.data
petal_len = iris
print(petal_len)
k_means = KMeans(n_clusters=3) #三个聚类中心
result = k_means.fit(petal_len) #Kmeans自动分类
kc = result.cluster_centers_ #自动分类后的聚类中心
y_means = k_means.predict(petal_len) #预测Y值
plt.scatter(petal_len[:,0],petal_len[:,2],c=y_means,marker='x')
plt.show()