zoukankan      html  css  js  c++  java
  • 机器学习笔记:为什么要对数据进行归一化处理?

    文章来自知乎,作者hit nlper 忆臻

    转自:https://zhuanlan.zhihu.com/p/27627299

    在喂给机器学习模型的数据中,对数据要进行归一化的处理。

    为什么要进行归一化处理,下面从寻找最优解这个角度给出自己的看法。

    例子

    假定为预测房价的例子,自变量为面积,房间数两个,因变量为房价。

    那么可以得到的公式为:

    y=	heta _{1}x_{1}  +	heta _{2}x_{2}

    其中x_{1} 代表房间数,	heta _{1} 代表x_{1} 变量前面的系数。

    其中x_{2} 代表面积,	heta _{2} 代表x_{2} 变量前面的系数。

    首先我们祭出两张图代表数据是否均一化的最优解寻解过程。

    未归一化:

    归一化之后

    为什么会出现上述两个图,并且它们分别代表什么意思。

    我们在寻找最优解的过程也就是在使得损失函数值最小的theta1,theta2。

    上述两幅图代码的是损失函数的等高线。

    我们很容易看出,当数据没有归一化的时候,面积数的范围可以从0~1000,房间数的范围一般为0~10,可以看出面积数的取值范围远大于房间数。

    影响

    这样造成的影响就是在画损失函数的时候,

    数据没有归一化的表达式,可以为:

    J=(3	heta _{1}+ 600	heta _{2}-y_{correct} )^{2}

    造成图像的等高线为类似椭圆形状,最优解的寻优过程就是像下图所示:

    而数据归一化之后,损失函数的表达式可以表示为:

    J=(0.5	heta _{1}+ 0.55	heta _{2}-y_{correct} )^{2}

    其中变量的前面系数几乎一样,则图像的等高线为类似圆形形状,最优解的寻优过程像下图所示:

    从上可以看出,数据归一化后,最优解的寻优过程明显会变得平缓,更容易正确的收敛到最优解。

    这也是数据为什么要归一化的一个原因。

  • 相关阅读:
    sizeof--返回一个数据类型或变量占用的字节数
    跳出循环break continue
    c-for循环
    while循环语句
    什么是Python中的套接字编程?
    详解Vue八大生命周期钩子函数
    你应该知道的数仓安全
    云图说|华为云自研云数据库GaussDB NoSQL,兼容多款NoSQL接口的数据库服务
    又到一年“粽子节”,快来测测你包的粽子颜值几分
    云小课 | 华为云KYON之私网NAT网关
  • 原文地址:https://www.cnblogs.com/silence-tommy/p/7113498.html
Copyright © 2011-2022 走看看