zoukankan      html  css  js  c++  java
  • ADALINE模型

    ADALINE模型即自适应线性单元(Adaptive Linear Neuron),主要用于信号处理中的自适应滤波、预测和模式识别。其结构图如下

    输入向量X=(x0,x1,x2,...,xn)T每个输入分量可以使数字量或模拟量;权向量W=(w0,w1,w2,...,wn)T该模型有两种输出

    (1)当变换函数为线性函数时,输出模拟量,可以作为调节误差的手段,其功能是将期望输出与实际输出相比较,得到一个模拟量的误差信号,以此来调节权值,以保证任何时候始终保持期望输出与实际输出相等(y=d)

    y=f(WTX)=WTX

    (2)当变换函数为符号函数时,输出为双极性数字量,可以用来线性分类

           y=f(WTX)=sgn(WTX)

    ADALINE模型采用LMS即最小二乘法作为学习规则:

    由LMS规则有 ΔW=η*(d-WTX)X

    当输出为模拟量时,采用单位线性函数作变换函数,故y=WTX

    所以,期望输出与实际输出的误差为ε=d-y

    由此权向量调整公式可改为 ΔW=η*(d-y)X=η*ε*X,将输入向量X除以其模的平方有

     ΔW=η*ε*X/||X||2

    下面以两输入模拟输出的ADALINE型为例:

    设输入向量X=(-1,1.2,2.7)T,d=2.3,初始权值为随机数W(0)=(-1,0.5,1.1)T,η=0.6,则,

    y(0)=W(0)TX=(-1,0.5,1.1)T(-1,1.2,2.7)=4.57

    ε(0)=d-y(0)=2.3-4.57=-2.27

    第一次调整权值计算:

    ΔW(0)=η*ε(0)*X/||X||2=0.6*(-2.27)*(-1,1.2,2.7)T/(-1,1.2,2.7)(-1,1.2,2.7)T=(0.14,-0.168,-0.378)T

       W(1)=W(0)+ΔW(0)=(-1,0.5,1.1)T+(0.14,-0.168,-0.378)T=(-0.86,0.332,0.722)T

    y(1)=W(1)TX=(-0.86,0.332,0.722)T(-1,1.2,2.7)=3.21

    ε(1)=d-y(1)=2.3-3.21=-0.91

    第二次调整权值计算:

    ΔW(1)=η*ε(1)*X/||X||2=0.6*(-0.91)*(-1,1.2,2.7)T/(-1,1.2,2.7)(-1,1.2,2.7)T=(0.056,-0.0672,-0.151)T

       W(2)=W(1)+ΔW(1)=(-0.86,0.332,0.722)T+(0.056,-0.0672,-0.151)T=(-0.804,0.265,0.571)T

    重复上面的步骤直至实际输出逼近d即可。

    ADALINE模型 主要用于语音识别、心电图诊断、信号处理以及系统辨识等方面

  • 相关阅读:
    Python变量、标识符
    PyCharm中设置作者信息
    去中心化
    复杂逻辑---取数
    行政机构处理
    2020.11案例分析
    中间表
    软考--项目管理名词
    软考--近6次上午考点分析
    软考--学习方法、做题方法
  • 原文地址:https://www.cnblogs.com/cloudml/p/4170439.html
Copyright © 2011-2022 走看看