2. 深度学习与神经网络基础

1. 人工智能、机器学习和深度学习的概念及关系

人工智能（Artificial Intelligence， AI）——为机器赋予人的智能，即计算机能够像人类一样完成更智能的工作。
机器学习是实现人工智能的一种手段。何为“学习”？“如果一个程序可以在任务T上，随着经验E的增加，效果P也可以随之增加，则称这个程序可以从经验中学习。”
对传统机器学习而言，通常需要进行特征提取，而这并不简单。深度学习解决的核心问题之一就是自动地将简单的特征组合成更复杂的特征，并使用这些组合特征解决问题。深度学习是机器学习的一个分支，它除了可以学习特征和任务之间的关联外，还能自动从简单特征中提取更加复杂的特征。
机器学习和深度学习的流程区别如下：

人工智能、机器学习和深度学习之间的关系可以表示如下：

深度学习是源于人工神经网络的研究，，其维基百科定义是“一类通过多层非线性变化对高复杂性数据建模算法的合集”。因为深层神经网络是实现”多层非线性变换“最常用的一种方法，所以在实际中，深度学习就是深层神经网络的代名词。

2. 神经网络

神经网络的结果大致如下，隐藏层可能有多层：

使用神经网络解决分类问题主要可以分为以下4个步骤：

1. 提取物体中实体的特征向量作为神经网络的输入。不同的实体可以提取不同的特征向量；
2. 定义神经网络的的结构，并定义如何从神经网络的输入得到输出。这个过程就是神经网络的前向传播算法；
3. 通过训练数据来调整神经网络中参数的取值,这个过程常用神经网络的反向传播算法实现；
4. 使用训练好的神经网络来预测位置的数据，和第2步前向传播算法一致。

3. 前向传播算法

关于前向传播算法可以参考https://cloud.tencent.com/developer/news/257834,其实主要就是矩阵计算。