我们做机器学习，做一个算法，其实就是要对一些样本数据来做一些训练。不管说你这个模型是一个分类模型也好，还是说预测一个那种微微模型也好，那么总而言之我们是想要得到一个模型，然后用这个模型来判断y和x之间的关系。
所谓有监督的学习呢，就是说在我们的训练数据中已经明确地给出了这个y是一个什么值。比如说如果说我们是一些分类算法的话，那么我们的训练数据中呢已经明确地给出了每一个样本它属于哪一个类别。这就是所谓的训练数据呢已经被提前打好了标签，我们常用的这样一个术语叫标签。
比如说对于分类问题，我们就是预测一封邮件是不是垃圾邮件。那么我们会先拿一批训练数据，那么这批数据呢就是先给你一堆邮件，那么这一堆邮件呢我们已经对每一封邮件打上一个标签了，就是说这个邮件是还是不是垃圾邮件，就是我们已经打上了一个标签了。那么我们在对这样的数据来进行训练的时候，那其实就是我们的这个y是什么，我们是已经预先已经知道了。然后呢我们再去根据这个已知的y，再去训练我们那些模型的参数。针对这样的一种数据的一个训练方法呢，我们就统称为这种有监督的学习。
那典型的有监督学习就包括这种分类算法以及这个回归算法。因为不管是分类也好还是回归也好，我们的训练数据集中已经明确地给出了那个y了。那么对于分类呢那这个y可能就是一个类别。那么对于这个回归问题呢这个y就是一个数字了，一个具体的数字。然后你这个模型的目标呢就是说做出的这个模型，你所预测出来那个y应该尽可能地跟我们这个给你的这个y相似才行。那这样一类算法就统称为有监督学习。
那跟它相对的呢就是这种所谓的无监督学习，那么无监督学习呢就是说我这个训练数据中并没有y。换句话说呢这个y应该是什么样子我们提前自己是不知道的。像这一类学习最典型的一个算法就是聚类。
那这一类算法就是所谓的无监督学习。典型的无监督学习就是这个聚类算法。
半监督学习也叫强化学习。
这是第2种分类算法，那这种分类算法都是根据它要解决的问题的类型来进行分类的。
第3种分类算法直指算法的本质。一个逻辑回归算法和一个朴素贝叶斯这两种算法有什么本质的区别。
这个生成模型和判别模型基本上都是用来是说那个分类问题的。判别模型它的这个功能就相当于直接给你一个函数了。生成模型告诉你它属于各个类的一个概率。
生成模型和判别模型训练数据模型的思想是不一样的。