MATLAB 求解最优化问题

MATLAB 求解最优化问题

MATLAB 优化工具箱解线性规划

模型1

minz=cXs.t.AX≤b

命令：x=linprog(c,A,b)

模型2

minz=cXs.t.AX≤bAeq⋅X=beq

命令：x=linprog(c,A,b,Aeq,beq)

注意：若没有不等式：AX≤b存在，则令A=[ ]，b=[ ]

模型3

minz=cXs.t.AX≤bAeq⋅X=beqVLB≤X≤VUB

命令：[1] x=linprog(c,A,b,Aeq,beq,VLB,VUB)，[2] x=linprog(c,A,b,Aeq,beq,VLB,VUB,x0)

注意：[1] 若没有等式约束：Aeq⋅X=beq，则令Aeq=[ ]，beq=[ ]；[2] 其中x0表示初始点

命令：[x,fval]=linprog(…)

返回最优解x及x出的目标函数的值fval

求解优化问题的主要函数

1. MATLAB求解优化问题的主要函数

类型	模型	基本函数名
一元函数极小	min F(x)s.t. x1<x<x2	x=fminbnd(′F′,x1,x2)
无约束极小	min F(X)	X=fminunc(′F′,x0)X=fminsearch(′F′,x0)
线性规划	min cTXs.t. AX≤b	X=linprog(c,A,b)
二次规划	min 12XTHX+cTXs.t. AX≤b	X=quadprog(H,c,A,b)
约束极小（非线性规划）	min F(X)s.t. G(X)≤b	X=fmincon(′FG′,x0)
达到目标问题	min rs.t. F(x)−wr≤goal	X=fgoalattain(′F′,x,goal,w)
极小极大问题	min maxx {Fi(x)}s.t. G(x)≤0	X=fminimax(′FG′,x0)

2. 优化函数的输入变量

变量	描述	调用函数
f	线性规划的目标函数f∗X或二次规划的目标函数X′∗H∗X+f∗X中线性项的系数向量	linprog, quadprog
fun	非线性优化的目标函数。fun必须为行命令对象或M文件、嵌入函数或MEX文件的名称	fminbnd, fminsearch,fminunc, fmincon, lsqcurvefit, lsqnonlin, fgoalattain, fminimax
H	二次规划的目标函数X′∗H∗X+f∗X中二次项的系数矩阵	quadprog
A, b	A矩阵和b向量分别为线性不等式约束：AX≤b中的系数矩阵和右端向量	linprog, quadprog, fgoalattain, fmincon, fminimax
Aeq, beq	Aeq矩阵和beq向量分别为线性等式约束：Aeq⋅X=beq中的系数矩阵和右端向量	linprog, quadprog, fgoalattain, fmincon, fminimax
vlb, vub	X的下限和上限向量：vlb≤X≤vub	linprog, quadprog, fgoalattain, fmincon, fminimax, lsqcurvefit, lsqnonlin
X_0	迭代初始点坐标	除fminbnd外所有优化函数
X1, X2	函数最小化的区间	fminbnd
options	优化选项参数结构，定义用于优化函数的参数	所有优化函数

3. 优化函数的输出变量表

变量	描述	调用函数
x	由优化函数求得的值。若exitflag>0，则x为解；否则x不是最终解，它只是迭代终止时优化过程的值	所有优化函数
fval	解x处的目标函数值	linprog, quadprog, fgoalattain, fmincon, fminimax, lsqcurvefit, lsqnonlin, fminbnd
exitflag	描述退出条件：exitflag>0，表明目标函数收敛于解x处；exitflag0=，表明目标函数评价或迭代的最大次数；exitflag<0，表明目标函数不收敛
output	包含优化结果信息的输出结构：Iterations：迭代次数；Algorithm：所采用的算法；FuncCount：函数评价次数	所有优化函数

4. 控制参数options的设置

用MATLAB解无约束问题

1. 一元函数无约束优化问题

min f(x)s.t. x1≤x≤x2

常用格式如下

x=fminbnd(fun,x1,x2);
x=fminbnd(fun,x1,x2,options);
[x,fval]=fminbnd(...);
[x,fval,exitflag]=fminbnd(...);
[x,fval,exitflag,output]=fminbnd(...);
%%其中3、4、5的等式右边可用1或2的等式右边

函数fminbnd的算法基于黄金分割法和二次插值法，它要求目标函数必须是连续函数，并可能只给出局部最优解。

2. 多元函数无约束优化问题

标准型为：min F(X)

命令格式为：

x=fminunc(fun,X0);  %或x=fminsearch(fun,X0)
x=fminunc(fun,X0,options);  %或x=fminsearch(fun,X0,options)
[x,fval]=fminunc(...);  %或[x,fval]=fminsearch(...)
[x,fval,exitflag]=fminunc(...); %或[x,fval,exitflag]=fminsearch(...)
[x,fval,exitflag,output]=fminunc(...);  %或[x,fval,exitflag,output]=fminsearch(...)

fminsearch是用单纯性法寻优

fminunc的算法：

1. fminunc为无约束优化提供了大型优化和中型优化算法。
   
   1. 由options中的参数LargeScale控制：LargeScale='on'使用大型算法，LargeScale='off'使用小型算法
2. fminunc为中型优化算法的搜素方向提供了4种算法，由options中的参数HessUpdate控制
   
   1. HessUpdate='bfgs'（默认值），拟牛顿法的BFGS公式
   2. HessUpdate='dfp'，拟牛顿法的DFP公式
   3. HessUpdate='steepdesc'，最速下降法
3. fminunc为中型优化算法的步长一维搜索提供了两种算法，由options中参数LineSearchType控制：
   
   1. LineSearchType='quadcubic'（缺省值），混合的二次和三次多项式插值
   2. LineSearchType='cubicpoly'，三次多项式插值

使用fminunc和fminsearch可能会得到局部最优解

用MATLAB解非线性规划

标准型为：

min F(X)s.t. AX≤bAeq⋅X=beqG(X)≤0Ceq(X)=0VLB≤X≤VUB

其中X为n维变元向量，G(X)与Ceq(X)均为非线性函数组成的向量，其他变量的含义和线性规划、二次规划相同。MATLAB求解：

1. 首先建立M文件fun.m，定义目标函数F(X)

   function f=fun(X);
   f=F(X);

2. 若约束条件中有非线性约束：G(X)≤0或Ceq(X)=0，则建立M文件nonlcon.m定义函数G(X)与Ceq(X)：

   function [G,Ceq]=nonlcon(X);
   G=...
   Ceq=...

3. 建立主程序，非线性规划求解的函数是fmincon，命令的基本格式如下：

   x=fmincom('fun',X0,A,b);
   x=fmincon('fun',X0,A,b,Aeq,beq);
   x=fmincon('fun',X0,A,b,Aeq,beq,VLB,VUB);
   x=fmincon('fun',X0,A,b,Aeq,beq,VLB,VUB,'nonlcon');
   x=fmincon('fun',X0,A,b,Aeq,beq,VLB,VUB,'nonlcon',options);
   [x,fval]=fmincon(...);
   [x,fval,exitflag]=fmincon(...);
   [x,fval,exitflag,output]=fmincon(...);

fmincon函数提供了大型优化算法和中型优化算法。默认时，若在fun函数中提供了梯度（options参数的GradObj设置为on），并且只有上下界存在或只有等式约束，fmincon函数将选择大型算法。当既有等式约束又有梯度约束时，使用中型算法。

fmincon函数的中型算法使用的是序列二次规划法。在每一步迭代中求解二次规划子问题，并用BFGS法更新拉格朗日Hessian矩阵。

fmincon函数可能会给出局部最优解，这与初值X0的选取有关。