一、引言
在机器学习以及优化组合问题中，最常用的方法就是梯度下降法。比如BP神经网络，多层感知器的神经元(units)越多，对应的权矩阵也就越大，每个权可视为一个自由度或者变量。我们知道自由度越高，变量越多，模型越复杂，模型的能力越强。但是模型能力越强，模型就越容易过拟合，对噪声太敏感。另一方面，使用梯度下降进行最优解搜寻时，多变量的误差曲面很像是连绵起伏的山峰一样，变量越多，山峰和山谷也越多，这就导致梯度下降法极容易陷入到局部的一个小山谷，而停止搜索。这就是常规的梯度下降法在解决多维度的优化问题中最常见的局部最优问题。究其原因是梯度下降法的搜索准则所致，按照梯度的负方向搜索，一味追求网络误差或能量函数的降低，使得搜索只具有“下山”的能力，而不具备“爬山”的能力。所谓“爬山”的能力，就是当搜索陷入局部最优时，还能具备一定的“翻山越岭”的能力，能够从局部最优中逃出来，继续搜索全局最优。如果为具有多个局部极小点的系统打一个形象的比喻。设想托盘上有一个凸凹不平的多维能量曲面，若在该曲面上放置一个小球，它在重力作用下，将滚入最邻近的一个低谷（局部最小点）而不能自拔。但该低谷不一定就是曲面上最低的那个低谷（全局最小点）。因此， 局部极小问题只能通过改进算法来解决 。一种可行的办法就是刚才所提到的让算法具有“爬山”的能力，同时还要保证当搜索进入全局最优时不会因为“爬山”而跑出全局最优的“山谷”。本文要讲解的随机神经网络：模拟退火(Simulated Annealing)与玻尔兹曼机(Boltzmann Machine)就是通过一定的概率保证搜索陷入局部最优时能够具有一定的“爬山”能力。这个形象的对比可参看下图：
上篇博文《随机神经网络之模拟退火》主要介绍了模拟退火，本篇博文接着模拟退火的思想，开始介绍玻尔兹曼机（Boltzmann machine）。
二、玻尔兹曼机
G·E·Hinton等人于１９８３ ～ １９８６ 年提出一种称为 Boltzmann 机的随机神经网络 。在这种网络中神经元只有两种输出状态，即单极性二进制的０或１。状态的取值根据概率统计法则决定，由于这种概率统计法则的表达形式与著名统计力学家 L·Boltzmann 提出的 Boltzmann 分布类似，故将这种网络取名 Boltzmann机。
1. 玻尔兹曼机的原理与结构
BM机的结构介于DHNN全互连与BP网络的层次结构之间，形式上与单层反馈网络DHNN相似，权值对称，且wii = 0；功能上BM机与三层BP网相似，具有输入节点、输出节点和隐节点。一般把输入与输出节点称为可见节点，隐节点成为不可见节点，训练时输入输出节点收集训练样本，而隐节点主要起辅助作用，用来实现输入输出之间的联系，使得训练集能在可见单元再现。BM机的3类节点之间没有明显的层次，连接形式可用如下所示的有向图表示：
2. 神经元的转移函数
设 BM 机中单个神经元的净输入为
与DHNN不同的是，净输入并不能通过符号转移函数直接获得确定的输出状态，实际的输出状态将按照某种概率发生，输出某种状态的转移概率：
上式表示的是神经元j输出状态取1的概率。状态为0的概率就用1减去即可。可以看出，净输入越大，神经元状态取１的概率越大；净输入越小，神经元状态取０的概率越大。而温度T的变化可改变概率曲线的形状。具体如下图所示：
从公式和图中可以看出，当温度T较高时，概率曲线变化平缓，对于同一净输入得到的状态为0或1的概率差别小；而温度低时，改率曲线陡峭，对于同一净输入状态为1或0的概率差别大；当T = 0时，概率函数退化为符号函数，神经元输出状态将无随机性。
3. 网络能量函数与运行的搜索机制
BM机采用的与DHNN网络相同的能量函数描述网络状态，如下图所示：
设BM机按异步方式工作，每次第j个神经元改变状态，根据能量变化公式：
下面进行进行一下讨论：
（1） 当净输入大于0时，状态为1的概率大于0.5。若原来状态xj=1，则Δxj=0，从而ΔE=0；若原理状态xj=0，则Δxj=1，从而ΔE<0，能量下降；
（2） 当净输入小于0时，状态为1的概率小于0.5。若原来状态xj=0，则Δxj=0，从而ΔE=0；若原理状态xj=1，则Δxj=-1，从而ΔE<0，能量下降；
以上对各种可能的情况讨论中可以看出，对于BM机，随着网络状态的演变，从概率意义上网络的能量总是朝着减小的方向变化。这就意味着尽管网络能量的总趋势是朝着减小的方向演进，但不排除在有些神经元状态可能会按照小概率取值，从而使网络能量暂时增加。正是因为有了这种可能性，BM机才具有了从局部极小的低谷中跳出的“爬山”能力，这一点是BM机与DHNN网能量变化的根本区别。由于采用了神经元状态按概率随机取值的工作方式，BM机的恩呢高亮具有不断跳出位置较高的低谷搜索位置较低的新低谷的能力。这种运行方式称为搜索机制，即网络在运行过程中不断地搜索更低的能量极小值，直到达到能量的全局最小。从模拟退火的原理可以看出，温度T不断下降可使得网络“爬山”能力由强减弱，这正是保证BM机能成功搜索到能量全局最小的有效措施。
4. BP机的Boltzmann分布
设xj=1时对应的网络能量为E1，xj=0时网络能量为E0，根据前面的分析结果，当xj由1变为0时，有Δxj=-1，于是有如下的公式：E0-E1= ΔE = netj；对应的状态为1或状态为0的概率如下图所示：
将上式推广到网络中任意两个状态出现的概率与之对应能量之间的关系，有：
这就是著名的Boltzmann分布。从公式中可以看出：BM机处于某一状态的概率主要取决于此状态下的能量，能量越低概率越大；BM机处于某一状态的概率还取决于温度参数T，温度越高，不同状态出现的概率越近，网络能量较容易跳出局部极小而搜索全局最小，温度越低，不同状态出现的概率差别越大，网络能量较不容易改变，从而可以使得网络搜索收敛。这正是采用模拟退火方法搜索全局最小的原因所在。
5. BM机的应用
用BM机进行优化计算时，可构造目标函数为网络的能量函数，为防止目标函数陷入局部最优，采用上述模拟退火算法进行最优解的搜索，开始时温度设置很高，此时神经元状态为1或0概率几乎相等，因此网络能量可以达到任意可能的状态，包括局部最小或全局最小。当温度下降，不同状态的概率发生变化，能量低的状态出现的概率大，而能量高的状态出现的概率小。当温度逐渐降至0时，每个神经元要么只能取1，要么只能取0，此时网络的状态就凝固在目标函数全局最小附近。对应的网络状态就是优化问题的最优解。
用BM机进行联想时，可通过学习用网络稳定状态的概率来模拟训练样本的出现概率。根据学习类型，BM机可分为自联想和异联想。如下图所示：
自联想型BM机中的可见节点V与DHNN网中的节点相似，即使输入节点也是输出节点，隐节点H的数目由学习的需要决定，而最少可以为0；异联想BM机中的可见节点V需按照功能分为输入节点组I和输出节点组O。
*************************************
2015-8-10