退火算法：
爬山法是完完全全的贪心法，每次都鼠目寸光的选择一个当前最优解，因此只能搜索到局部的最优值。
模拟退火其实也是一种贪心算法，但是它的搜索过程引入了随机因素。模拟退火算法以一定的概率来接受一个比当前解要差的解，因此有可能会跳出这个局部的最优解，达到全局的最优解。
模拟退火算法描述：
若这次的适应度值比上次的好， (即移动后得到更优解)，则总是接受该移动
若这次的适应度比上次的差， (即移动后的解比当前解要差)，则以一定的概率接受移动，而且这个概率随着时间推移逐渐降低（逐渐降低才能趋向稳定）
比上次差时，以一定的概率接受新解，一定概率是多大概率，如何计算？按照如下的公式计算。（注意，此处适应度值是越大越好，若为越小越好则需相应修改）
/* * J(y)：在状态y时的评价函数值 * Y(i)：表示当前状态 * Y(i+1)：表示新的状态 * r： 用于控制降温的快慢 * T： 系统的温度，系统初始应该要处于一个高温的状态 * T_min ：温度的下限，若温度T达到T_min，则停止搜索 */ while( T > T_min ) { dE = J( Y(i+1) ) - J( Y(i) ) ; if ( dE >=0 ) //表达移动后得到更优解，则总是接受移动 Y(i+1) = Y(i) ; //接受从Y(i)到Y(i+1)的移动 else { // 函数exp( dE/T )的取值范围是(0,1) ，dE/T越大，则exp( dE/T )也 if ( exp( dE/T ) > random( 0 , 1 ) ) Y(i+1) = Y(i) ; //接受从Y(i)到Y(i+1)的移动 } T = r * T ; //降温退火 ，0<r<1 。r越大，降温越慢；r越小，降温越快 /* * 若r过大，则搜索到全局最优解的可能会较高，但搜索的过程也就较长。若r过小，则搜索的过程会很快，但最终可能会达到一个局部最优值 */ i ++ ; }
上述代码的结束条件主要依靠温度T，其实可以换成迭代次数，随迭代次数增加，接受差解的概率越来越小。
更精细的控制，采用两层循环，使之能够控制接受差解的次数：http://blog.csdn.net/baimafujinji/article/details/52573630
注意：模拟退火算法还有另外一种思路，即接受准则允许目标函数有限范围内变坏， 并不按概率取舍，直接按前后两个解的适应度的差值在一定范围内，即 deltaE < e， e 为按允许目标函数变坏范围。
这样做，是因为exp(deltaE/T)这个接受概率，在delta很小，而T很大的时候，接受概率非常大，几乎就等于1，这样导致经常接受一些较差的解，导致适应度时好时坏，高低起伏，不能正常收敛，而适应度的差值来作为判断标准就没有这样的缺陷，只会把差值控制在很小以内，因此能够正常收敛。实现代码略。
这种思路引自：高尚，杨静宇等人《基于模拟退火算法思想的粒子群优化算法》
参考资料：