【udacity】机器学习

Evernote Export

2.人工智能简介

机器学习源自于人工智能，在此方向上，该领域有分为不同学派，机器学习主要关注的是制造能够自主动作的机器

3.人工智能难题

1.所有智能体都只有很少的计算资源、很低的处理速度和很小的内存，如何能让AI实时提供作用？
2.所有的计算都是局部的，但是大多数AI问题都具有全局约束，如何才能让AI解决全局问题？
3.计算逻辑基本上是演绎逻辑，但是许多AI本质上是溯因性或归纳性的，如何解决AI的溯因性问题？
4.世界是动态变化的，知识是有限的，但是AI智能体必须始终从它已知的东西开始，如何让AI解决新问题？
5.推理和学习已经使事务变的复杂，但是解释和证明增加了这种复杂性，如何让AI解决复杂问题？

4.人工智能问题的特点

1.在许多AI问题中，数据是陆续出现的，而不是一开始就有所有的数据
2.问题往往会重复出现，同类问题一再出现
3.问题在许多不同的抽象层面上出现
4.许多引人关注的AI问题难以通过计算来解决
5.外界是动态的，它不断变化，但是有关外界的知识是相对不变的
6.外界是开放式的，但是有关外界的问题是有限的

5.人工智能和不确定性

1.传感器无法识别系统以外的信息
2.对手限制信息
3.信息的随机性无法预测
4.计算机运算能力限制
5.全然无知情况

6.有哪些人工智能问题

8.什么是基于知识的人工智能？

基于知识的三个基本过程
1.推理
2.学习
3.记忆

9.人工智能的四个学派

Academic	Application
Thinking	semantic web
acting	airplane autopilot
optimally	machine learning
like humans	improvisational robots

 

10.什么是基于知识的人工智能
观察人类的行为可以帮助我们设计一个机器人观察机器人设计可以帮助识别人类的认知模式
12.贝叶斯公式
贝叶斯描述：
P(A|B)中B是已知事件，A是我们关心的变量

P(A∣B)=P(B)P(B∣A)⋅ P(A)​

24.机器学习的定义

什么是机器学习？
计算应用统计学

25.监督学习

监督学习：获取已经标记的数据集，通过收集信息以便标记新的数据集(函数逼近)

26.非监督学习

没有样本，只有输入的关系，只能通过查看输入本身的关系来推导出某些结构(简洁的影响描述)。

 

27.强化学习

强化学习常常被描述为通过延迟奖赏(reward)进行学习，强化学习的反馈可能是你实际做出决策后经过几个步骤才产生的。

28.归纳法与演绎法

所有的机器学习都是一种归纳法而不是演绎法
归纳是从一个示例得出更普遍规则的问题
演绎是从普通规则得到结果

29.归纳法、演绎法与溯因法

诊断就是溯因法的实例，归纳法不能保证结果是否适用于整个整体，溯因法也是一样。
探寻一个结果是否正确的过程就是，追溯->归纳->演绎不断循环的过程
35.分类法
参数、数据结构、隐含概念
数据标记、数据标记缺失、反馈
预测、关注事件、主动性、被动性
分类与回归

what	what from	what for	how	output	detail
parameter	supervised	prediction	passive	classification	generative
hidden	unsupervised	diagnose	active	regression	discriminative
certain	reinforcement	summarize	online
parameter			offline

---

36.监督学习
在监督学习中，每一个特征实例都提供了一个特征向量，以及以Y命名的目标符号

Occams Razor
奥卡姆剃刀定律：在其他条件一样的情况下，选择较不复杂的假设
38.分类和回归
分类的特点是目标标签或目标类是离散的
回归问题与分类问题有本质上的区别，温度是一个连续值，我们的贝叶斯网络不能预测温度，而只能预测离散类
39.线性回归

f(x)=w1​x+w0​

40.更多线性回归
损失函数

loss=j∑​(yj​−w1​xj​−w0​)2

**2.%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E7%AE%80%E4%BB%8B**%0A%60%60%60%0A%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E6%BA%90%E8%87%AA%E4%BA%8E%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%EF%BC%8C%E5%9C%A8%E6%AD%A4%E6%96%B9%E5%90%91%E4%B8%8A%EF%BC%8C%E8%AF%A5%E9%A2%86%E5%9F%9F%E6%9C%89%E5%88%86%E4%B8%BA%E4%B8%8D%E5%90%8C%E5%AD%A6%E6%B4%BE%EF%BC%8C%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E4%B8%BB%E8%A6%81%E5%85%B3%E6%B3%A8%E7%9A%84%E6%98%AF%E5%88%B6%E9%80%A0%E8%83%BD%E5%A4%9F%E8%87%AA%E4%B8%BB%E5%8A%A8%E4%BD%9C%E7%9A%84%E6%9C%BA%E5%99%A8%0A%60%60%60%0A**3.%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E9%9A%BE%E9%A2%98**%0A%60%60%60%0A1.%E6%89%80%E6%9C%89%E6%99%BA%E8%83%BD%E4%BD%93%E9%83%BD%E5%8F%AA%E6%9C%89%E5%BE%88%E5%B0%91%E7%9A%84%E8%AE%A1%E7%AE%97%E8%B5%84%E6%BA%90%E3%80%81%E5%BE%88%E4%BD%8E%E7%9A%84%E5%A4%84%E7%90%86%E9%80%9F%E5%BA%A6%E5%92%8C%E5%BE%88%E5%B0%8F%E7%9A%84%E5%86%85%E5%AD%98%EF%BC%8C%E5%A6%82%E4%BD%95%E8%83%BD%E8%AE%A9AI%E5%AE%9E%E6%97%B6%E6%8F%90%E4%BE%9B%E4%BD%9C%E7%94%A8%EF%BC%9F%0A2.%E6%89%80%E6%9C%89%E7%9A%84%E8%AE%A1%E7%AE%97%E9%83%BD%E6%98%AF%E5%B1%80%E9%83%A8%E7%9A%84%EF%BC%8C%E4%BD%86%E6%98%AF%E5%A4%A7%E5%A4%9A%E6%95%B0AI%E9%97%AE%E9%A2%98%E9%83%BD%E5%85%B7%E6%9C%89%E5%85%A8%E5%B1%80%E7%BA%A6%E6%9D%9F%EF%BC%8C%E5%A6%82%E4%BD%95%E6%89%8D%E8%83%BD%E8%AE%A9AI%E8%A7%A3%E5%86%B3%E5%85%A8%E5%B1%80%E9%97%AE%E9%A2%98%EF%BC%9F%0A3.%E8%AE%A1%E7%AE%97%E9%80%BB%E8%BE%91%E5%9F%BA%E6%9C%AC%E4%B8%8A%E6%98%AF%E6%BC%94%E7%BB%8E%E9%80%BB%E8%BE%91%EF%BC%8C%E4%BD%86%E6%98%AF%E8%AE%B8%E5%A4%9AAI%E6%9C%AC%E8%B4%A8%E4%B8%8A%E6%98%AF%E6%BA%AF%E5%9B%A0%E6%80%A7%E6%88%96%E5%BD%92%E7%BA%B3%E6%80%A7%E7%9A%84%EF%BC%8C%E5%A6%82%E4%BD%95%E8%A7%A3%E5%86%B3AI%E7%9A%84%E6%BA%AF%E5%9B%A0%E6%80%A7%E9%97%AE%E9%A2%98%EF%BC%9F%0A4.%E4%B8%96%E7%95%8C%E6%98%AF%E5%8A%A8%E6%80%81%E5%8F%98%E5%8C%96%E7%9A%84%EF%BC%8C%E7%9F%A5%E8%AF%86%E6%98%AF%E6%9C%89%E9%99%90%E7%9A%84%EF%BC%8C%E4%BD%86%E6%98%AFAI%E6%99%BA%E8%83%BD%E4%BD%93%E5%BF%85%E9%A1%BB%E5%A7%8B%E7%BB%88%E4%BB%8E%E5%AE%83%E5%B7%B2%E7%9F%A5%E7%9A%84%E4%B8%9C%E8%A5%BF%E5%BC%80%E5%A7%8B%EF%BC%8C%E5%A6%82%E4%BD%95%E8%AE%A9AI%E8%A7%A3%E5%86%B3%E6%96%B0%E9%97%AE%E9%A2%98%EF%BC%9F%0A5.%E6%8E%A8%E7%90%86%E5%92%8C%E5%AD%A6%E4%B9%A0%E5%B7%B2%E7%BB%8F%E4%BD%BF%E4%BA%8B%E5%8A%A1%E5%8F%98%E7%9A%84%E5%A4%8D%E6%9D%82%EF%BC%8C%E4%BD%86%E6%98%AF%E8%A7%A3%E9%87%8A%E5%92%8C%E8%AF%81%E6%98%8E%E5%A2%9E%E5%8A%A0%E4%BA%86%E8%BF%99%E7%A7%8D%E5%A4%8D%E6%9D%82%E6%80%A7%EF%BC%8C%E5%A6%82%E4%BD%95%E8%AE%A9AI%E8%A7%A3%E5%86%B3%E5%A4%8D%E6%9D%82%E9%97%AE%E9%A2%98%EF%BC%9F%0A%60%60%60%0A**4.%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E9%97%AE%E9%A2%98%E7%9A%84%E7%89%B9%E7%82%B9**%0A%60%60%60%0A1.%E5%9C%A8%E8%AE%B8%E5%A4%9AAI%E9%97%AE%E9%A2%98%E4%B8%AD%EF%BC%8C%E6%95%B0%E6%8D%AE%E6%98%AF%E9%99%86%E7%BB%AD%E5%87%BA%E7%8E%B0%E7%9A%84%EF%BC%8C%E8%80%8C%E4%B8%8D%E6%98%AF%E4%B8%80%E5%BC%80%E5%A7%8B%E5%B0%B1%E6%9C%89%E6%89%80%E6%9C%89%E7%9A%84%E6%95%B0%E6%8D%AE%0A2.%E9%97%AE%E9%A2%98%E5%BE%80%E5%BE%80%E4%BC%9A%E9%87%8D%E5%A4%8D%E5%87%BA%E7%8E%B0%EF%BC%8C%E5%90%8C%E7%B1%BB%E9%97%AE%E9%A2%98%E4%B8%80%E5%86%8D%E5%87%BA%E7%8E%B0%0A3.%E9%97%AE%E9%A2%98%E5%9C%A8%E8%AE%B8%E5%A4%9A%E4%B8%8D%E5%90%8C%E7%9A%84%E6%8A%BD%E8%B1%A1%E5%B1%82%E9%9D%A2%E4%B8%8A%E5%87%BA%E7%8E%B0%0A4.%E8%AE%B8%E5%A4%9A%E5%BC%95%E4%BA%BA%E5%85%B3%E6%B3%A8%E7%9A%84AI%E9%97%AE%E9%A2%98%E9%9A%BE%E4%BB%A5%E9%80%9A%E8%BF%87%E8%AE%A1%E7%AE%97%E6%9D%A5%E8%A7%A3%E5%86%B3%0A5.%E5%A4%96%E7%95%8C%E6%98%AF%E5%8A%A8%E6%80%81%E7%9A%84%EF%BC%8C%E5%AE%83%E4%B8%8D%E6%96%AD%E5%8F%98%E5%8C%96%EF%BC%8C%E4%BD%86%E6%98%AF%E6%9C%89%E5%85%B3%E5%A4%96%E7%95%8C%E7%9A%84%E7%9F%A5%E8%AF%86%E6%98%AF%E7%9B%B8%E5%AF%B9%E4%B8%8D%E5%8F%98%E7%9A%84%0A6.%E5%A4%96%E7%95%8C%E6%98%AF%E5%BC%80%E6%94%BE%E5%BC%8F%E7%9A%84%EF%BC%8C%E4%BD%86%E6%98%AF%E6%9C%89%E5%85%B3%E5%A4%96%E7%95%8C%E7%9A%84%E9%97%AE%E9%A2%98%E6%98%AF%E6%9C%89%E9%99%90%E7%9A%84%0A%60%60%60%0A**5.%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%92%8C%E4%B8%8D%E7%A1%AE%E5%AE%9A%E6%80%A7**%0A%60%60%60%0A1.%E4%BC%A0%E6%84%9F%E5%99%A8%E6%97%A0%E6%B3%95%E8%AF%86%E5%88%AB%E7%B3%BB%E7%BB%9F%E4%BB%A5%E5%A4%96%E7%9A%84%E4%BF%A1%E6%81%AF%0A2.%E5%AF%B9%E6%89%8B%E9%99%90%E5%88%B6%E4%BF%A1%E6%81%AF%0A3.%E4%BF%A1%E6%81%AF%E7%9A%84%E9%9A%8F%E6%9C%BA%E6%80%A7%E6%97%A0%E6%B3%95%E9%A2%84%E6%B5%8B%0A4.%E8%AE%A1%E7%AE%97%E6%9C%BA%E8%BF%90%E7%AE%97%E8%83%BD%E5%8A%9B%E9%99%90%E5%88%B6%0A5.%E5%85%A8%E7%84%B6%E6%97%A0%E7%9F%A5%E6%83%85%E5%86%B5%0A%60%60%60%0A**6.%E6%9C%89%E5%93%AA%E4%BA%9B%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E9%97%AE%E9%A2%98**%0A!%5Bbba9a479a3886896e64e40a791679cd0.png%5D(en-resource%3A%2F%2Fdatabase%2F1210%3A1)%0A%0A**8.%E4%BB%80%E4%B9%88%E6%98%AF%E5%9F%BA%E4%BA%8E%E7%9F%A5%E8%AF%86%E7%9A%84%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%EF%BC%9F**%0A%60%60%60%0A%E5%9F%BA%E4%BA%8E%E7%9F%A5%E8%AF%86%E7%9A%84%E4%B8%89%E4%B8%AA%E5%9F%BA%E6%9C%AC%E8%BF%87%E7%A8%8B%0A1.%E6%8E%A8%E7%90%86%0A2.%E5%AD%A6%E4%B9%A0%0A3.%E8%AE%B0%E5%BF%86%0A%60%60%60%0A**9.%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E7%9A%84%E5%9B%9B%E4%B8%AA%E5%AD%A6%E6%B4%BE**%0AAcademic%7CApplication%7C%0A----------%7C------------%7C%0AThinking%7Csemantic%20web%7C%0Aacting%7Cairplane%C2%A0autopilot%7C%0Aoptimally%7Cmachine%C2%A0learning%7C%0Alike%C2%A0humans%7Cimprovisational%C2%A0robots%7C%0A!%5Bbf607ab0c238e637e2ab8f7d629b81a0.png%5D(en-resource%3A%2F%2Fdatabase%2F1212%3A1)%0A%0A**10.%E4%BB%80%E4%B9%88%E6%98%AF%E5%9F%BA%E4%BA%8E%E7%9F%A5%E8%AF%86%E7%9A%84%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD**%0A%E8%A7%82%E5%AF%9F%E4%BA%BA%E7%B1%BB%E7%9A%84%E8%A1%8C%E4%B8%BA%E5%8F%AF%E4%BB%A5%E5%B8%AE%E5%8A%A9%E6%88%91%E4%BB%AC%E8%AE%BE%E8%AE%A1%E4%B8%80%E4%B8%AA%E6%9C%BA%E5%99%A8%E4%BA%BA%E8%A7%82%E5%AF%9F%E6%9C%BA%E5%99%A8%E4%BA%BA%E8%AE%BE%E8%AE%A1%E5%8F%AF%E4%BB%A5%E5%B8%AE%E5%8A%A9%E8%AF%86%E5%88%AB%E4%BA%BA%E7%B1%BB%E7%9A%84%E8%AE%A4%E7%9F%A5%E6%A8%A1%E5%BC%8F%0A**12.%E8%B4%9D%E5%8F%B6%E6%96%AF%E5%85%AC%E5%BC%8F**%0A%E8%B4%9D%E5%8F%B6%E6%96%AF%E6%8F%8F%E8%BF%B0%EF%BC%9A%0AP(A%7CB)%E4%B8%ADB%E6%98%AF%E5%B7%B2%E7%9F%A5%E4%BA%8B%E4%BB%B6%EF%BC%8CA%E6%98%AF%E6%88%91%E4%BB%AC%E5%85%B3%E5%BF%83%E7%9A%84%E5%8F%98%E9%87%8F%0A%24%24P(A%7CB)%3D%5Cfrac%7BP(B%7CA)%20%5Ccdot%5C%20P(A)%7D%7BP(B)%7D%24%24%0A%0A**24.%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E7%9A%84%E5%AE%9A%E4%B9%89**%0A%60%60%60%0A%E4%BB%80%E4%B9%88%E6%98%AF%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%9F%0A%E8%AE%A1%E7%AE%97%E5%BA%94%E7%94%A8%E7%BB%9F%E8%AE%A1%E5%AD%A6%0A%60%60%60%0A**25.%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0**%0A%60%60%60%0A%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0%EF%BC%9A%E8%8E%B7%E5%8F%96%E5%B7%B2%E7%BB%8F%E6%A0%87%E8%AE%B0%E7%9A%84%E6%95%B0%E6%8D%AE%E9%9B%86%EF%BC%8C%E9%80%9A%E8%BF%87%E6%94%B6%E9%9B%86%E4%BF%A1%E6%81%AF%E4%BB%A5%E4%BE%BF%E6%A0%87%E8%AE%B0%E6%96%B0%E7%9A%84%E6%95%B0%E6%8D%AE%E9%9B%86(%E5%87%BD%E6%95%B0%E9%80%BC%E8%BF%91)%0A%60%60%60%0A**26.%E9%9D%9E%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0**%0A%60%60%60%0A%E6%B2%A1%E6%9C%89%E6%A0%B7%E6%9C%AC%EF%BC%8C%E5%8F%AA%E6%9C%89%E8%BE%93%E5%85%A5%E7%9A%84%E5%85%B3%E7%B3%BB%EF%BC%8C%E5%8F%AA%E8%83%BD%E9%80%9A%E8%BF%87%E6%9F%A5%E7%9C%8B%E8%BE%93%E5%85%A5%E6%9C%AC%E8%BA%AB%E7%9A%84%E5%85%B3%E7%B3%BB%E6%9D%A5%E6%8E%A8%E5%AF%BC%E5%87%BA%E6%9F%90%E4%BA%9B%E7%BB%93%E6%9E%84(%E7%AE%80%E6%B4%81%E7%9A%84%E5%BD%B1%E5%93%8D%E6%8F%8F%E8%BF%B0)%E3%80%82%0A%60%60%60%0A%60%60%60mermaid%0Agraph%20TD%0AA%5B%E8%BE%93%E5%85%A5A%5D%20--%3E%7C%E6%9D%A1%E4%BB%B61%7C%20B%5B%E8%BE%93%E5%87%BAB%5D%0AA%5B%E8%BE%93%E5%85%A5A%5D%20--%3E%7C%E6%9D%A1%E4%BB%B62%7C%20C%5B%E8%BE%93%E5%87%BAC%5D%0A%60%60%60%0A**27.%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0**%0A%60%60%60%0A%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0%E5%B8%B8%E5%B8%B8%E8%A2%AB%E6%8F%8F%E8%BF%B0%E4%B8%BA%E9%80%9A%E8%BF%87%E5%BB%B6%E8%BF%9F%E5%A5%96%E8%B5%8F(reward)%E8%BF%9B%E8%A1%8C%E5%AD%A6%E4%B9%A0%EF%BC%8C%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0%E7%9A%84%E5%8F%8D%E9%A6%88%E5%8F%AF%E8%83%BD%E6%98%AF%E4%BD%A0%E5%AE%9E%E9%99%85%E5%81%9A%E5%87%BA%E5%86%B3%E7%AD%96%E5%90%8E%E7%BB%8F%E8%BF%87%E5%87%A0%E4%B8%AA%E6%AD%A5%E9%AA%A4%E6%89%8D%E4%BA%A7%E7%94%9F%E7%9A%84%E3%80%82%0A%60%60%60%0A**28.%E5%BD%92%E7%BA%B3%E6%B3%95%E4%B8%8E%E6%BC%94%E7%BB%8E%E6%B3%95**%0A%60%60%60%0A%E6%89%80%E6%9C%89%E7%9A%84%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E9%83%BD%E6%98%AF%E4%B8%80%E7%A7%8D%E5%BD%92%E7%BA%B3%E6%B3%95%E8%80%8C%E4%B8%8D%E6%98%AF%E6%BC%94%E7%BB%8E%E6%B3%95%0A%E5%BD%92%E7%BA%B3%E6%98%AF%E4%BB%8E%E4%B8%80%E4%B8%AA%E7%A4%BA%E4%BE%8B%E5%BE%97%E5%87%BA%E6%9B%B4%E6%99%AE%E9%81%8D%E8%A7%84%E5%88%99%E7%9A%84%E9%97%AE%E9%A2%98%0A%E6%BC%94%E7%BB%8E%E6%98%AF%E4%BB%8E%E6%99%AE%E9%80%9A%E8%A7%84%E5%88%99%E5%BE%97%E5%88%B0%E7%BB%93%E6%9E%9C%0A%60%60%60%0A**29.%E5%BD%92%E7%BA%B3%E6%B3%95%E3%80%81%E6%BC%94%E7%BB%8E%E6%B3%95%E4%B8%8E%E6%BA%AF%E5%9B%A0%E6%B3%95**%0A%60%60%60mermaid%0Agraph%20TD%0ARule(Rule)--%3ECause(Cause)%0ARule(Rule)--%3EEffect(Effect)%0A%60%60%60%0A%E8%AF%8A%E6%96%AD%E5%B0%B1%E6%98%AF%E6%BA%AF%E5%9B%A0%E6%B3%95%E7%9A%84%E5%AE%9E%E4%BE%8B%EF%BC%8C%E5%BD%92%E7%BA%B3%E6%B3%95%E4%B8%8D%E8%83%BD%E4%BF%9D%E8%AF%81%E7%BB%93%E6%9E%9C%E6%98%AF%E5%90%A6%E9%80%82%E7%94%A8%E4%BA%8E%E6%95%B4%E4%B8%AA%E6%95%B4%E4%BD%93%EF%BC%8C%E6%BA%AF%E5%9B%A0%E6%B3%95%E4%B9%9F%E6%98%AF%E4%B8%80%E6%A0%B7%E3%80%82%0A%E6%8E%A2%E5%AF%BB%E4%B8%80%E4%B8%AA%E7%BB%93%E6%9E%9C%E6%98%AF%E5%90%A6%E6%AD%A3%E7%A1%AE%E7%9A%84%E8%BF%87%E7%A8%8B%E5%B0%B1%E6%98%AF%EF%BC%8C%E8%BF%BD%E6%BA%AF-%3E%E5%BD%92%E7%BA%B3-%3E%E6%BC%94%E7%BB%8E%E4%B8%8D%E6%96%AD%E5%BE%AA%E7%8E%AF%E7%9A%84%E8%BF%87%E7%A8%8B%0A**35.%E5%88%86%E7%B1%BB%E6%B3%95**%0A%E5%8F%82%E6%95%B0%E3%80%81%E6%95%B0%E6%8D%AE%E7%BB%93%E6%9E%84%E3%80%81%E9%9A%90%E5%90%AB%E6%A6%82%E5%BF%B5%0A%E6%95%B0%E6%8D%AE%E6%A0%87%E8%AE%B0%E3%80%81%E6%95%B0%E6%8D%AE%E6%A0%87%E8%AE%B0%E7%BC%BA%E5%A4%B1%E3%80%81%E5%8F%8D%E9%A6%88%0A%E9%A2%84%E6%B5%8B%E3%80%81%E5%85%B3%E6%B3%A8%E4%BA%8B%E4%BB%B6%E3%80%81%E4%B8%BB%E5%8A%A8%E6%80%A7%E3%80%81%E8%A2%AB%E5%8A%A8%E6%80%A7%0A%E5%88%86%E7%B1%BB%E4%B8%8E%E5%9B%9E%E5%BD%92%0Awhat%7Cwhat%20from%7Cwhat%20for%7Chow%7Coutput%7Cdetail%7C%0A----%7C----%7C----%7C----%7C----%7C----%7C----%7C%0Aparameter%7Csupervised%7Cprediction%7Cpassive%7Cclassification%7Cgenerative%7C%0Ahidden%7Cunsupervised%7Cdiagnose%20%7C%20active%7Cregression%20%7Cdiscriminative%20%7C%0Acertain%7Creinforcement%20%7Csummarize%20%7Conline%20%7C%20%7C%20%7C%0Aparameter%7C%20%7C%20%7Coffline%20%7C%20%7C%20%7C%0A%0A*%20*%20*%0A**36.%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0**%0A%E5%9C%A8%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0%E4%B8%AD%EF%BC%8C%E6%AF%8F%E4%B8%80%E4%B8%AA%E7%89%B9%E5%BE%81%E5%AE%9E%E4%BE%8B%E9%83%BD%E6%8F%90%E4%BE%9B%E4%BA%86%E4%B8%80%E4%B8%AA%E7%89%B9%E5%BE%81%E5%90%91%E9%87%8F%EF%BC%8C%E4%BB%A5%E5%8F%8A%E4%BB%A5Y%E5%91%BD%E5%90%8D%E7%9A%84%E7%9B%AE%E6%A0%87%E7%AC%A6%E5%8F%B7%0A%5BOccams%20Razor%5D(https%3A%2F%2Fsimple.wikipedia.org%2Fwiki%2FOccam%2527s_razor)%0A%E5%A5%A5%E5%8D%A1%E5%A7%86%E5%89%83%E5%88%80%E5%AE%9A%E5%BE%8B%EF%BC%9A%E5%9C%A8%E5%85%B6%E4%BB%96%E6%9D%A1%E4%BB%B6%E4%B8%80%E6%A0%B7%E7%9A%84%E6%83%85%E5%86%B5%E4%B8%8B%EF%BC%8C%E9%80%89%E6%8B%A9%E8%BE%83%E4%B8%8D%E5%A4%8D%E6%9D%82%E7%9A%84%E5%81%87%E8%AE%BE%0A**38.%E5%88%86%E7%B1%BB%E5%92%8C%E5%9B%9E%E5%BD%92**%0A%E5%88%86%E7%B1%BB%E7%9A%84%E7%89%B9%E7%82%B9%E6%98%AF%E7%9B%AE%E6%A0%87%E6%A0%87%E7%AD%BE%E6%88%96%E7%9B%AE%E6%A0%87%E7%B1%BB%E6%98%AF%E7%A6%BB%E6%95%A3%E7%9A%84%0A%E5%9B%9E%E5%BD%92%E9%97%AE%E9%A2%98%E4%B8%8E%E5%88%86%E7%B1%BB%E9%97%AE%E9%A2%98%E6%9C%89%E6%9C%AC%E8%B4%A8%E4%B8%8A%E7%9A%84%E5%8C%BA%E5%88%AB%EF%BC%8C%E6%B8%A9%E5%BA%A6%E6%98%AF%E4%B8%80%E4%B8%AA%E8%BF%9E%E7%BB%AD%E5%80%BC%EF%BC%8C%E6%88%91%E4%BB%AC%E7%9A%84%E8%B4%9D%E5%8F%B6%E6%96%AF%E7%BD%91%E7%BB%9C%E4%B8%8D%E8%83%BD%E9%A2%84%E6%B5%8B%E6%B8%A9%E5%BA%A6%EF%BC%8C%E8%80%8C%E5%8F%AA%E8%83%BD%E9%A2%84%E6%B5%8B%E7%A6%BB%E6%95%A3%E7%B1%BB%0A**39.%E7%BA%BF%E6%80%A7%E5%9B%9E%E5%BD%92**%0A%24%24f(x)%3Dw_1x%2Bw_0%24%24%0A**40.%E6%9B%B4%E5%A4%9A%E7%BA%BF%E6%80%A7%E5%9B%9E%E5%BD%92**%0A%E6%8D%9F%E5%A4%B1%E5%87%BD%E6%95%B0%0A%24%24loss%3D%0A%5Csum_j(y_j-w_1x_j-w_0)%5E2%0A%24%24%0A%0A%0A%0A%0A%0A%0A