zoukankan      html  css  js  c++  java
  • 机器学习实战:数据预处理之独热编码(One-Hot Encoding)

    问题由来

    在很多机器学习任务中,特征并不总是连续值,而有可能是分类值。

    例如,考虑一下的三个特征:

    ["male", "female"]

    ["from Europe", "from US", "from Asia"]

    ["uses Firefox", "uses Chrome", "uses Safari", "uses Internet Explorer"]

    如果将上述特征用数字表示,效率会高很多。例如:

    ["male", "from US", "uses Internet Explorer"] 表示为[0, 1, 3]

    ["female", "from Asia", "uses Chrome"]表示为[1, 2, 1]

    但是,即使转化为数字表示后,上述数据也不能直接用在我们的分类器中。因为,分类器往往默认数据数据是连续的,并且是有序的。但是,按照我们上述的表示,数字并不是有序的,而是随机分配的。

    独热编码

    为了解决上述问题,其中一种可能的解决方法是采用独热编码(One-Hot Encoding)。

    独热编码即 One-Hot 编码,又称一位有效编码,其方法是使用N位状态寄存器来对N个状态进行编码,每个状态都由他独立的寄存器位,并且在任意时候,其中只有一位有效。

    例如:

    自然状态码为:000,001,010,011,100,101

    独热编码为:000001,000010,000100,001000,010000,100000

    可以这样理解,对于每一个特征,如果它有m个可能值,那么经过独热编码后,就变成了m个二元特征。并且,这些特征互斥,每次只有一个激活。因此,数据会变成稀疏的。

    这样做的好处主要有:

    1. 解决了分类器不好处理属性数据的问题

    2. 在一定程度上也起到了扩充特征的作用

    举例

    我们基于python和Scikit-learn写一个简单的例子:

    from sklearn import preprocessing

    enc = preprocessing.OneHotEncoder()

    enc.fit([[0, 0, 3], [1, 1, 0], [0, 2, 1], [1, 0, 2]])

    enc.transform([[0, 1, 3]]).toarray()

    输出结果:

    array([[ 1.,  0.,  0.,  1.,  0.,  0.,  0.,  0.,  1.]])

  • 相关阅读:
    .NET控件ZedGraph使用帮助
    .NET多线程编程(转)
    DataTable 添加列、设置主键、添加行、查询、更新
    一个有用的Windows服务小程序——用来完成Server端的Socket通信[转载]
    (周星驰版)学习委托的最好实例 (转载+自己补充了注释)
    这样写
    DataTable添加列和行的方法
    简单工厂之简单模型(uml)
    学了delegate委托还有event事件的联系,基本学明白了。先总结一下吧。[转载]
    HDU_1240——三维空间DFS
  • 原文地址:https://www.cnblogs.com/lzh-cnblogs/p/3764749.html
Copyright © 2011-2022 走看看