K-means算法

k-means算法属于无监督学习，没有已知的标签

k均值是发现给定数据集的K个簇的算法。

每个簇通过其质心来描述。

k均值算法的工作流程如下，

首先，给定随机的K个初始质心，然后将数据集中的每个点分配到一个簇中，过程是为每个点寻找最近的质心，并将其分配给该质心所对应的簇；

然后为每个簇更新质心，质心为所有点的平均值。

其伪代码如下：

创建k个点作为初始质心

当任意一个点的簇分配结果发生改变时

　　对数据集中的每个点

　　　　对每个质心　　

　　　　　　计算质心和该点的距离

　　　　将该点分配到最近质心的簇

　　对每一个簇，计算均值，更新质心。

重点是：1.随机 　　2.按距分配 　　3.均值更新

随机性往往使结果并不好，所以产生了后处理以及新的变形二分k-均值算法。

后处理

设置一个判断簇的好坏的标准，使用SSE（误差平方和）来判断。

后处理可以采用，将具有最大SSE的簇划分成两个簇，在这个大簇中采用k-均值；然后再把某两个簇合并，保持总数不变。合并的依据是，合并最近的质心或者合并两个使得SSE增幅最小的质心。

二分K均值算法

该算法首先将所有点作为一个簇，然后将该簇再一分为二，之后选择其中一个再进行划分，选择的依据是划分之后是否可以最大程度降低SSE的值。

这种基于SSE的划分过程不断重复，直到符合用户的簇数目。

伪代码如下：

一个整簇

当簇数目小于K时

　　对每个簇

　　　　计算总误差

　　　　在给定簇上进行K均值聚类（K=2）

　　　　计算划分后的总误差

　　选择误差小的那个簇进行划分

　　　

下面是一个简单的Kmeans的代码例子：　

#coding=utf-8
from numpy import *

def loadDataSet(fileName):
    dataMat = []
    fr = open(fileName)
    for line in fr.readlines():
        curLine = line.strip().split('	')
        fltLine = map(float, curLine)
        dataMat.append(fltLine)
    return dataMat
    
#计算两个向量的距离，用的是欧几里得距离
def distEclud(vecA, vecB):
    return sqrt(sum(power(vecA - vecB, 2)))

#随机生成初始的质心（ng的课说的初始方式是随机选K个点）    
def randCent(dataSet, k):
    n = shape(dataSet)[1]
    centroids = mat(zeros((k,n)))
    for j in range(n):
        minJ = min(dataSet[:,j])
        rangeJ = float(max(array(dataSet)[:,j]) - minJ)
        centroids[:,j] = minJ + rangeJ * random.rand(k,1)
    return centroids
    
def kMeans(dataSet, k, distMeas=distEclud, createCent=randCent):
    m = shape(dataSet)[0]
    clusterAssment = mat(zeros((m,2)))#create mat to assign data points 
                                      #to a centroid, also holds SE of each point
    centroids = createCent(dataSet, k)
    clusterChanged = True
    while clusterChanged:
        clusterChanged = False
        for i in range(m):#for each data point assign it to the closest centroid
            minDist = inf
            minIndex = -1
            for j in range(k):
                distJI = distMeas(centroids[j,:],dataSet[i,:])
                if distJI < minDist:
                    minDist = distJI; minIndex = j
            if clusterAssment[i,0] != minIndex: 
                clusterChanged = True
            clusterAssment[i,:] = minIndex,minDist**2
        print centroids
        for cent in range(k):#recalculate centroids
            ptsInClust = dataSet[nonzero(clusterAssment[:,0].A==cent)[0]]#get all the point in this cluster
            centroids[cent,:] = mean(ptsInClust, axis=0) #assign centroid to mean 
    return centroids, clusterAssment
    
def show(dataSet, k, centroids, clusterAssment):
    from matplotlib import pyplot as plt  
    numSamples, dim = dataSet.shape  
    mark = ['or', 'ob', 'og', 'ok', '^r', '+r', 'sr', 'dr', '<r', 'pr']  
    for i in xrange(numSamples):  
        markIndex = int(clusterAssment[i, 0])  
        plt.plot(dataSet[i, 0], dataSet[i, 1], mark[markIndex])  
    mark = ['Dr', 'Db', 'Dg', 'Dk', '^b', '+b', 'sb', 'db', '<b', 'pb']  
    for i in range(k):  
        plt.plot(centroids[i, 0], centroids[i, 1], mark[i], markersize = 12)  
    plt.show()
      
def main():
    dataMat = mat(loadDataSet('testSet.txt'))
    myCentroids, clustAssing= kMeans(dataMat,4)
    print myCentroids
    show(dataMat, 4, myCentroids, clustAssing)  
    
    
if __name__ == '__main__':
    main()