什么是机器学习？
非正式定义：在不直接针对问题进行编程的情况下，赋予计算机学习能力的一个研究领域
于一个计算机程序来说，给它一个任务T，和一个性能测量方法P，如果在经验E的影响下，P对T的测量结果得到了改进，那么就说该程序从E中学习。
监督学习：
我们给算法提供了一种标准答案，我们希望算法学习标准输入和答案之间的关系，以便尝试用来做其他的输入，给我们更加标准的答案。
该问题属于回归问题的范畴，回归从某种程度上暗示了我们需要向预测变量，是连续的，
另外一种监督学习属于分类问题的范畴，在分类问题中，我们要处理的变量不是连续的，而是离散的。
学习理论：
将机器学习的算法应用到实际中
无监督学习：
给定一组数据，不含答案，你能在数据中寻找出一些有趣的结构吗？
强化学习：
是不需要你一次就做决定的算法，需要多次决定进行累加。
回报函数：
如果你训练一条狗，当它做对事，你说好狗，当它做错事，你说坏狗，久而久之，这条狗就会自动的去做对的事情，来获取更多的奖励，