前向算法的数学意义上的实现

首先是前向算法

前向算法demo文件：fwd_demo.m

%% 前向算法的demo
%% 验证的例子参见《统计学习方法》p177
%%

% (编码：红1，白2)
% 初始概率分布
pi=[0.2 0.4 0.4]

% 概率转移矩阵
A=[ 0.5   0.2   0.3;
    0.3   0.5   0.2;
    0.2   0.3   0.5]

% 观察矩阵（发射矩阵）
B=[ 0.5   0.5;
    0.4   0.6;
    0.7   0.3]

% 观察序列
O=[1,2,1]

%%调用前向算法fwd(~)
%% 
format long         %% 为了尽量显示全小数部分
p=fwd(O,A,B,pi)

前向算法文件：fwd.m

function p=fwd(o,a,b,pi)
%% 参考：《统计学习方法》李航 p174
% 暂时不使用向量化编程~
%%
%函数功能：一阶离散单观察序列HMM的前向算法（数学意义）
%输入：
%O=Given observation sequence labellebd in numerics
%A(N,N)=transition probability matrix
%B(N,M)=Emission matrix
%pi=initial probability matrix
%输出：
%P=probability of given sequence in the given model
%% 预先分配变量空间，赋值
N=length(a(1,:));           %%  N=隐状态数
T=length(o);                %%  T序列长度，也是时间~
alpha=zeros(T,N);

%前向算法主体
for i=1:N        %（1）初值
    alpha(1,i)=b(i,o(1))*pi(i);         %% 对应（10.15）
end

for t=1:(T-1)      %（2）递推
    for j=1:N
        sum=0;
        for i=1:N
            sum=sum+a(i,j)*alpha(t,i);
        end
        alpha(t+1,j)=sum*b(j,o(t+1));           %% 对应（10.16）
    end
end
p=0;
for i=1:N         %（3）终止
    p=p+alpha(T,i);        %% 对应（10.17）
end

运行后的结果：

>> fwd_demo

pi =

    0.2000    0.4000    0.4000


A =

    0.5000    0.2000    0.3000
    0.3000    0.5000    0.2000
    0.2000    0.3000    0.5000


B =

    0.5000    0.5000
    0.4000    0.6000
    0.7000    0.3000


O =

     1     2     1


p =

    0.1302

>> fwd_demo

pi =

    0.2000    0.4000    0.4000


A =

    0.5000    0.2000    0.3000
    0.3000    0.5000    0.2000
    0.2000    0.3000    0.5000


B =

    0.5000    0.5000
    0.4000    0.6000
    0.7000    0.3000


O =

     1     2     1


p =

   0.130218000000000