第一节：神经网络和深度学习

1. 修正现行单元
2. 单神经元网络

1. 在监督学习当中，你输入一个x，习得一个函数，映射到输出y
   1. 例如房屋价格预测例子当中，输入房屋的一些特征，就能输出或者是预测价格y，
   2. 在现今，深度学习神经网络效果拔群，最主要的就是在线广告，
      1. 给网站输入广告信息，网站会考虑是否给你看这个广告，有时候还需要用户输入一些信息，神经网络在预测你是否会点击这个广告方面已经变现的很好了，通过想你展示，向用户展示，最有可能点开的广告，这就是神经网络在很多家公司赚取无法想象的高额利润的应用方式。因为有了这种最有可能点击开的广告的能力，直接影响到了很多大型线上广告公司的收入，

1. 计算机视觉的发展，主要归功于深度学习
   1. 你输入一个图像，然后想输出一个指数，可以是从1到1000，来表明这张图片是不是1000个不同的图像当中的某一个，可以用来给图片打标签
2. 深度学习在语音识别方面的进展
   1. 通过将音频片段输入神经网络，它可以输出文本，
3. 深度学习在机器翻译方面取得的进展
   1. 输入英语句子，她直接输出一个中文句子
4. 深度学习在无人驾驶方面的进展
   1. 你输入一副图像，汽车前方的一个快照，还有一些雷达信息，基于这个，训练过的神经网络能告诉你路上其他汽车的位置，这是无人驾驶系统的关键组件，

1. 需要机智的选择x和y，才能够解决特定的问题，然后把这个监督学习过的组件添加到更大型的系统中，比如无人驾驶，
2. 稍微不同的神经网络应用到不同的地方也都行之有效，
   1. 房地产
   2. 在线广告
      1. 以上两者使用的都是相对标准的神经网络
   3. 图像领域里面，我们经常使用的是卷积神经网络（CNN），
   4. 对于序列数据，例如音频中含有时间成分，音频是随着时间播放的，所以音频很自然的可以表示为一维时间序列，对于序列数据，经常使用RNN（循环神经网络） 
   5. 语言最自然的表示也是序列数据，更加复杂的RNNs，经常会用于这些应用，
   6. 对于更加复杂的应用。比如无人驾驶，有一张图，可能需要CNN“卷积神经网络结构”架构去处理，雷达信息会更不一样，需要一些更加复杂的混合的神经网络结构，

1. 为了更具体的说明CNN和RNN的结构是什么，在文献中，可能见过这样的图片
   1. 
   2. 这是一个标准的神经网络，你可能见过这样的图片
   3. 这是一个卷积神经网络，我们需要了解这幅图的含义和如何实现它
2. 卷积网络通常用于图像数据，
3. 循环神经网络，非常适合处理一维序列数据，其中包含时间成分，
   1. 

1. 机器学习被用于结构化和非结构化数据
   1. 结构化数据是数据的数据库
   2. 结构化数据，意味着每个特征，比如说，房屋发小，卧室数量，用户年龄，都有着清晰的定义，
   3. 非结构化数据，指的是，比如音频，原始音频，图像，你想要识别图像，或者是文本中的内容，
      1. 这里的特征，可能是图像中的像素值，或者是文本中的单个单词，
   4. 注意
      1. 非结构化数据和结构化数据相比，可能让计算机更加的难易理解，人类进化到现在，很擅长理解音频信号和图像，文本是更近代的发明，但是人们真的很擅长解读非结构化数据，
      2. 在神经网络的兴起过程当中，多亏了深度学习，多亏了神经网络，计算机能够更好的解释非结构化数据，（语音识别，图像识别，自然语言文字处理）
   5. 神经网络在很多的短期经济创造的过程中，是基于结构化数据的。比如更好的广告系统个，更好的获利建议，有更好的能力去处理很多公司拥有的海量数据库，并且用这些数据准确的预测未来的趋势，
   6. 在这节课当中，会有很多机会去用到结构化数据，也可以用到非结构化数据，为了更好的解释算法的原理，将会使用到很多的非结构化数据，
2. 神经网络彻底改变了监督学习，基本的神经网络背后的技术理念，大部分都不是新的理念，

来自为知笔记(Wiz)