zoukankan      html  css  js  c++  java
  • KNN(k-nearest-neighbor)算法

    一、算法概述

    该方法的思路是:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别。KNN算法中, 所选择的邻居都是已经正确分类的对象(训练集)。该方法在定类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。
    二、算法要点
    1、指导思想 kNN算法的指导思想是“近朱者赤,近墨者黑”,由你的邻居来推断出你的类别。
    计算步骤如下:
        1)算距离:给定测试对象,计算它与训练集中的每个对象的距离
        2)找邻居:圈定距离最近的k个训练对象,作为测试对象的近邻
        3)做分类:根据这k个近邻归属的主要类别,来对测试对象分类

    2、距离或相似度的衡量
    什么是合适的距离衡量?距离越近应该意味着这两个点属于一个分类的可能性越大。
    常用的距离衡量包括欧式距离、夹角余弦等。
    对于文本分类来说,使用余弦(cosine)来计算相似度就比欧式(Euclidean)距离更合适。
    3、类别的判定
    投票决定:少数服从多数,近邻中哪个类别的点最多就分为该类。
    加权投票法:根据距离的远近,对近邻的投票进行加权,距离越近则权重越大(权重为距离平方的倒数)
    三、优缺点
    1、优点 简单,易于理解,易于实现,无需估计参数,无需训练
    适合对稀有事件进行分类(例如当流失率很低时,比如低于0.5%,构造流失预测模型)
    特别适合于多分类问题(multi-modal,对象具有多个类别标签),例如根据基因特征来判断其功能分类,kNN比SVM的表现要好
    2、缺点
    1)当样本不平衡时,如一个类的样本容量很大,而其他类样本容量很小时,有可能导致当输入一个新样本时,该样本的K个邻居中大容量类的样本占多数。
    可以采用权值的方法(和该样本距离小的邻居权值大)来改进。
    2)计算量较大。因为对每一个待分类的文本都要计算它到全体已知样本的距离,才能求得它的K个最近邻点。
    目前常用的解决方法是事先对已知样本点进行剪辑,事先去除对分类作用不大的样本。
    该算法比较适用于样本容量比较大的类域的自动分类,而那些样本容量较小的类域采用这种算法比较容易产生误分。
    四、常见问题
    1、k值设定为多大? k太小,分类结果易受噪声点影响;k太大,近邻中又可能包含太多的其它类别的点。(对距离加权,可以降低k值设定的影响)
    k值通常是采用交叉检验来确定(以k=1为基准)
    经验规则:k一般低于训练样本数的平方根
    2、类别如何判定最合适? 投票法没有考虑近邻的距离的远近,距离更近的近邻也许更应该决定最终的分类,所以加权投票法更恰当一些。
    3、如何选择合适的距离衡量? 高维度对距离衡量的影响:众所周知当变量数越多,欧式距离的区分能力就越差。 变量值域对距离的影响:值域越大的变量常常会在距离计算中占据主导作用,因此应先对变量进行标准化。
    4、训练样本是否要一视同仁? 在训练集中,有些样本可能是更值得依赖的。 可以给不同的样本施加不同的权重,加强依赖样本的权重,降低不可信赖样本的影响。
    5、性能问题? kNN是一种懒惰算法,平时不好好学习,考试(对测试样本分类)时才临阵磨枪(临时去找k个近邻)。 懒惰的后果:构造模型很简单,但在对测试样本分类地的系统开销大,因为要扫描全部训练样本并计算距离。 已经有一些方法提高计算的效率,例如压缩训练样本量等。
    6、能否大幅减少训练样本量,同时又保持分类精度?
    浓缩技术(condensing)
    编辑技术(editing)

    参考:
    维基百科:
    http://zh.wikipedia.org/wiki/%E6%9C%80%E9%82%BB%E8%BF%91%E6%90%9C%E7%B4%A2
    百度百科:http://baike.baidu.com/view/1485833.htm
    KNN算法理解:http://blog.csdn.net/jmydream/article/details/8644004

    KNN可以用于推荐:

    这里我们不用KNN来实现分类,我们使用KNN最原始的算法思路,即为每个内容寻找K个与其最相似的内容,并推荐给用户。

  • 相关阅读:
    Asp.net2.0 中自定义过滤器对Response内容进行处理 dodo
    自动化测试工具 dodo
    TestDriven.NET 2.0——单元测试的好助手(转) dodo
    JS弹出窗口的运用与技巧 dodo
    ElasticSearch 简介 规格严格
    修改PostgreSQL字段长度导致cached plan must not change result type错误 规格严格
    Linux系统更改时区(转) 规格严格
    mvn编译“Cannot find matching toolchain definitions for the following toolchain types“报错解决方法 规格严格
    ElasticSearch 集群 & 数据备份 & 优化 规格严格
    Elasticsearch黑鸟教程22:索引模板的详细介绍 规格严格
  • 原文地址:https://www.cnblogs.com/zichun-zeng/p/3995040.html
Copyright © 2011-2022 走看看