zoukankan
html css js c++ java
KNN算法--物以类聚,人以群分
KNN(K Nearest Neighbors,K近邻 )算法是机器学习所有算法中理论最简单,最好理解的。KNN是一种基于实例的学习,通过计算新数据与训练数据特征值之间的距离,然后选取K(K>=1)个距离最近的邻居进行分类判断(投票法)或者回归。如果K=1,那么新数据被简单分配给其近邻的类。KNN算法算是监督学习还是无监督学习呢?首先来看一下监督学习和无监督学习的定义。对于监督学习,数据都有明确的label(分类针对离散分布,回归针对连续分布),根据机器学习产生的模型可以将新数据分到一个明确的类或得到一个预测值。对于非监督学习,数据没有label,机器学习出的模型是从数据中提取出来的pattern(提取决定性特征或者聚类等)。例如聚类是机器根据学习得到的模型来判断新数据“更像”哪些原数据集合。KNN算法用于分类时,每个训练数据都有明确的label,也可以明确的判断出新数据的label,KNN用于回归时也会根据邻居的值预测出一个明确的值,因此KNN属于监督学习。
KNN算法的计算过程:
选择一种距离计算方式, 通过数据所有的特征计算新数据与已知类别数据集中的数据点的距离
按照距离递增次序进行排序,选取与当前距离最小的k个点
对于离散分类,返回k个点出现频率最多的类别作预测分类;对于回归则返回k个点的加权值作为预测值
来自为知笔记(Wiz)
查看全文
相关阅读:
算法详解(LCA&RMQ&tarjan)补坑啦!完结撒花(。◕ˇ∀ˇ◕)
借教室(NOIP2012)
同余方程(NOIP2012)
开车旅行(NOIP2012)
剑指offer-int类型负数补码中1的个数-位操作
直接插入排序的再再改进
剑指offer-特定二维数组中查找一个元素是否存在-二分搜索-二维数组
递归的再一次理解-斐波那契数列
剑指offer-顺时针打印矩阵-二维数组
剑指offer-第一个只出现一次的字符-字符串和数组
原文地址:https://www.cnblogs.com/zhoudayang/p/5058271.html
最新文章
洛谷 [P2661] 信息传递
洛谷 [P1341]无序字母对
洛谷 [P1113] 杂务
洛谷 [P1119] 灾后重建
数据结构模板
VK Cup 2017
费用流模板练习
2017-3-17校内训练
[9018]1630: 离大海最远点在哪里?
2017-3-16校内训练
热门文章
Codeforces Round #404 (Div. 2)
[BZOJ]2194: 快速傅立叶之二
[POJ]2451: Uyuw's Concert
[POJ]1279: Art Gallery
[BZOJ]1103: [POI2007]大都市meg
疫情控制(NOIP2012)庆祝2012满贯!٩(๑•◡-๑)۶ⒽⓤⒼ
计算器的改良(纯字符串)o1
货车运输(LCA+最大生成树)
牧场行走(LCA)
Balanced Lineup(RMQ)
Copyright © 2011-2022 走看看