Matlab神经网络函数newff()新旧用法差异

摘要

　　在Matlab R2010a版中，如果要创建一个具有两个隐含层、且神经元数分别为5、3的前向BP网络，使用旧的语法可以这样写：

        net1 = newff(minmax(P), [5 3 1]);

注意minmax()函数的使用，还有对输出层神经元数（1）的指定。

　　当然也可以采用新的语法，更简洁（请留意差异）：

        net2 = newff(P, T, [5 3]);

不用求minmax，也不用人工指定输出层神元数了（newff会根据参数T自行推导）。

不过，为了得到与书本示例接近的结果，接下来需要清除net2.divideFcn等属性再训练，否则结果相去甚远，且远不止一个数量级。

  　　net2.divideFcn = '';

　　  net2.inputs{1}.processFcns = {};　　% 1是输入层所在网络层编号

　　  net2.outputs{3}.processFcns = {};    % 3 是输出层所在网络层编号

 

正文

　　最近在看朱凯的《精通Matlab神经网络》，到第10章例10-3时，发现newff()的新旧用法得到的结果相去甚远。

　　书中例10-3采用了旧式写法，代码如下：

% 例10-3,旧式写法

clear all

P = [-1 -1 2 2; 0 5 0 5];

T = [-1 -1 2 2];

%% 旧式语法

net1 = newff(minmax(P),[5 1],{'tansig', 'purelin'}, 'traingd'); % 隐含层有5个神经元

net1.trainParam.goal = 1e-5;

net1.trainParam.epochs = 300;

net1.trainParam.lr = 0.05;

net1.trainParam.showWindow = 1;

net1= train(net1,P,T);

Y1 = sim(net1,P);

disp(['旧式语法 mse: ' num2str(mse(T-Y1))]);

　　训练窗口最终如下：

 

　　程序输出如下：

Warning: NEWFF used in an obsolete way.

> In nntobsu at 18

In newff at 86

See help for NEWFF to update calls to the new argument list.

旧式语法 mse: 9.8073e-006

　　很明显，达到了设定的1e-5的目标。

　　不过我们也收到了警告，建议我们采用新的参数列表。于是查帮助，改成新的写法，代码如下：

% 例10-3，新式写法

clear all

P = [-1 -1 2 2; 0 5 0 5];

T = [-1 -1 2 2];

%% 新式语法

net2 = newff(P,T,5,{'tansig', 'purelin'}, 'traingd'); % 隐含层有5个神经元

net2.trainParam.goal = 1e-5;

net2.trainParam.epochs = 300;

net2.trainParam.lr = 0.05;

net2.trainParam.showWindow = 1;

net2 = train(net2,P,T);

Y2 = sim(net2,P);

disp(['新式语法 mse: ' num2str(mse(T-Y2))]);

　　训练窗口：

　　程序输出：

新式语法 mse: 10.7499

　　可见，远远没有达到1e-5的目标。

　　这是为什么呢？QQ群咨询无果，无奈之下自行研究源码。

　　newff.m分成三大块：主程序、新版实现子函数 new_5p1()、旧版实现子函数 new_5p0()。通过仔细比较新旧这两个子函数，发现新版设置了 net.divideFcn 属性，其值为'dividerand'。该函数把样本数据三分为训练集、验证集和测试集，默认比例是6:2:2。于是在我的程序中清除该属性再训练：

% 例10-3，新写法，改进

clear all

P = [-1 -1 2 2; 0 5 0 5];

T = [-1 -1 2 2];

%% 新式语法

net2 = newff(P,T,5,{'tansig', 'purelin'}, 'traingd'); % 隐含层有5个神经元

net2.trainParam.goal = 1e-5;

net2.trainParam.epochs = 300;

net2.trainParam.lr = 0.05;

net2.trainParam.showWindow = 1;

net2.divideFcn = ''; % 为和书本一致，对于样本极少的情况，不要再三分了

net2 = train(net2,P,T);

Y2 = sim(net2,P);

disp(['新式语法，改进 mse: ' num2str(mse(T-Y2))]);

　　训练窗口：

　　程序输出：

新式语法，改进 mse: 9.8129e-006

    也达到了预期目标。

    其实，新旧两次的训练窗口和Performance窗口也可以发现端倪的，此处不再细说，请各位看官自行对比。

    当然，至于新版为什么要引入divideFcn必有其道理，我是初学者，有所揣测暂不表，先跟着书走。