2.机器学习相关数据基础

1.本周视频学习内容：https://www.bilibili.com/video/BV1Tb411H7uC?p=2

1）P2 概率论与贝叶斯先验

2）P3 矩阵和线性代数

机器学习是一门多领域交叉学科，涉及较多的数学知识，本节课知识之前都有学过，这次根据重点重新梳理一遍，一定要多加重视。通过观看视频，大家对课程的数学基础部分加深印象。

建议大家边看边做笔记，记录要点及所在时间点，以便有必要的时候回看。学习笔记也是作业的一部分。

2.作业要求：

1）贴上视频学习笔记，要求真实，不要抄袭，可以手写拍照。

概率论与贝叶斯先验

本福特定律，又称第一数字定律，指在实际生活中，以1位首位数字出现的概率约为30.1%，比我们认为的平均概率要多很多。

         

离散型

两点型：E（X）=1xp+0xq=p；D（X）=E(X²)-[E(X)]²=1²xp+0²xq-p²=p-p²=pq

         

 连续型

  均匀分布

         

   

 

 

      

 

协方差为0则不相关，独立的话协方差一定为0，但是协方差为0时不一定独立

协方差矩阵是一个对称阵

      

矩阵和线型代数

SVD——奇异值分解

 

矩阵

 

 

 线性相关、线性无关

 

特征值和特征向量

 

 

矩阵求导

    

2）用自己的话总结“梯度”，“梯度下降”和“贝叶斯定理”，可以word编辑，可做思维导图，可以手写拍照，要求言简意赅、排版整洁。

 第一节视频也有讲梯度，但是不太理解，后来找到了自己能理解的一个视频：https://www.bilibili.com/video/BV154411o7hE?p=27

（一）梯度是一个向量，通过求函数的偏导数可以求出，一个函数给定一个点，这个点沿任何方向都有方向导数，最大的那个方向导数的就是梯度。

（二）梯度下降就像是需要下山，从山顶到山底，想要以最快的速度下山，每一步有各个不同的方向可以走。

假设上山的时候有最快的上山方向（“梯度”），那么最快速度下山就可以取最快上山的反方向（“负梯度”），从而快速到山底（最小值）。

 

 （三）贝叶斯定理

 贝叶斯定理：贝叶斯定理是关于随机事件A和B的条件概率（或边缘概率）的一则定理。其中P(A|B)是在B发生的情况下A发生的可能性。

是由果求因的。

假设已知在两个箱子里分别五个球，箱子1有白球1个黑球4个，箱子2有白球2个，黑球3个，求抽到白球的概率，那么很好求，就是P（白）=0.3

那么贝叶斯定理就是，现在你抽到了一个白球，你并不知道白球来自哪个箱子，现在就需要你在给定的结果下，追溯原因找白球可能在的箱子。

公式：  

P（B|A）=后验概率

P（B）=是B先验概率

P（A|B）=可能性函数，使得预估概率更加接近真实值

P（A）=是A的先验概率