用python实现k近邻算法

　　用python写程序真的好舒服。

　　code:

import numpy as np

def read_data(filename):
    '''读取文本数据，格式：特征1    特征2 ……  类别'''
    f=open(filename,'rt')
    row_list=f.readlines()  #以每行作为列表
    f.close()
    data_array=[]
    labels_vector=[]
    while True:
        if not row_list:
            break
        row=row_list.pop(0).strip().split('	') #去除换行号，分割制表符
        temp_data_row=[float(a) for a in row[:-1]]  #将字符型转换为浮点型
        data_array.append(temp_data_row) #取特征值
        labels_vector.append(row[-1])   #取最后一个作为类别标签
    return np.array(data_array),np.array(labels_vector)

def classify(test_data,dataset,labels,k):
    '''分类'''
    diff_dis_array=test_data-dataset    #使用numpy的broadcasting
    dis_array=(np.add.reduce(diff_dis_array**2,axis=-1))**0.5   #求距离
    dis_array_index=np.argsort(dis_array)   #升序距离的索引
    class_count={}
    for i in range(k):
        temp_label=labels[dis_array_index[i]]
        class_count[temp_label]=class_count.get(temp_label,0)+1 #获取类别及其次数的字典
    sorted_class_count=sorted(class_count.items(), key=lambda item:item[1],reverse=True)    #字典的值按降序排列
    return  sorted_class_count[0][0]    #返回元组列表的[0][0]

def normalize(dataset):
    '''数据归一化'''
    return (dataset-dataset.min(0))/(dataset.max(0)-dataset.min(0))


k=3 #近邻数
test_data=[0,0] #待分类数据
data,labels=read_data('testdata.txt')
print('数据集：
',data)
print('标签集：
',labels)
result=classify(test_data,normalize(data),labels,k)
print('分类结果：',result)

　　一个示例的数据集testdata.txt（以制表符隔开）：

　　1.0 1.1 A
　　1.0 1.0 A
　　0 0 B
　　0 0.1 B