上一篇笔记中,介绍了因子分析模型,因子分析模型使用d维子空间的隐含变量z来拟合训练数据,所以实际上因子分析模型是一种数据降维的方法,它基于一个概率模型,使用EM算法来预计參数。
本篇主要介绍PCA(Principal Components Analysis, 主成分分析),也是一种降维方法,可是该方法比較直接,仅仅需计算特征向量就能够进行降维了。本篇相应的视频是公开课的第14个视频,该视频的前半部分为因子分析模型的EM求解,已写入笔记13,本篇仅仅是后半部分的笔记,所以内容较少。