线性回归——最小二乘法_实例（二）

上篇文章介绍了最小二乘法矩阵形式的理论与证明、计算过程，这里使用程序代码的方式计算出矩阵形式的解，并给出线性拟合；

Octave代码

 clear all;close all;
 % 拟合的数据集
 x = [1,2;1,6;1,9;1,13];
 y = [4;8;12;21]; 
 % 根据公式 w = (x'*x)^-1  * x' * y
 % 与上篇文章一样一步步分解如下，其实这里可以不用分解，上篇文章分解时为了好计算
 x_t =x'*x;   

 %% (x'*x)^-1或inv(x' * x)
 x_i = x_t^-1; 

 x_i_t = x_i*x'; 

% 求出w
 w = x_i_t * y;   

 %% 在画板上绘制出数据集的点
 figure(1);hold off
 plot(x(:,2),y,'bo','markersize',5,'linewidth',2)
 set(gca,'xtick',0:1:25)  

 % 画布大小为25*25
 xplot = [0 25];
 yplot = [0 25];
 xlim(xplot)
 ylim(yplot)
 hold on
 % 打印出拟合的线段
 plot(xplot,w(1,:)+w(2,:)*xplot,'r','linewidth',2)
 set(gca,'yTick',1:1:25) 
 set(gca,'xTick',1:1:25) 
 xlabel('x');
 ylabel('y');

运行结果

文章首发地址：Solinx
http://www.solinx.co/archives/753