解最小二乘的方法有很多,这里给出常见的三种方法实现。
一是一般方法,之前博客一般都用这种方法。
二是svd分解法,之前有用过svd(见这里,这里,这里和这里)解其他问题,但是没用来解过最小二乘。
三是qr分解法,这个好像没用过。
这里主要总结记录一下实现方法。
代码如下:
clear all; close all; clc; a=2;b=2;c=-3;d=1;e=2;f=30; %系数 [x,y]=meshgrid(0:0.1:30); z=a*x.^2+b*y.^2+c*x.*y+d*x+e*y +f; %原始模型 mesh(x,y,z) hold on; X=x(:); Y=y(:); Z=z(:); X=X(1:100:end); Y=Y(1:100:end); Z=Z(1:100:end); plot3(X,Y,Z,'ro') XX=[X.^2 Y.^2 X.*Y X Y ones(length(X),1)]; YY=Z; %一般方法 C1=inv(XX'*XX)*XX'*YY; %svd分解法 Y=zeros(6,1); [U,S,V]=svd(XX); B=U'*YY; for i=1:6 Y(i)=B(i)/S(i,i); end C2=V*Y; %qr分解法 [Q,R] = qr(XX); C3 = pinv(R)*(Q'*YY); C1' C2' C3'
三种方法结果是一致的:
模型如下: