Cap3：Tensorflow框架特性和安装
目前业界比较普遍使用的深度学习的框架有：Tensorflow、Caffe、Theano、Torch等不下十种。
TensorFlow 是一个采用数据流图（ data flow graphs），用于数值计算的开源软件库。
TensorFlow：深度学习最流行的库之一，是谷歌在深刻总结了其前身 DistBelief 的 经验教训上形成的；
它不仅便携、高效、可扩展，还能在不同计算机上运行：小到智能手 机，大到计算机集群；
它是一款轻量级的软件，可以立刻生成你的训练模型，也能重新实现它；
TensorFlow 有强大的社区、企业支持，因此它广泛用于从个人到企业、从初创公司 到大公司等不同群体。
TensorFlow 支 持向步训练和异步训练两种模型训练方式。
Cap4：前馈神经网络
*定义
从这一章我们开始接触最简单最朴素的神经网络，叫做前馈神经网络 （ feedforward neural network）。
在这种神经网络中，各神经元从输入层开始，接收前一级输入，并输入 到下一级，直至输出层。
整个网络中无反馈，可用一个有向无环图（ directed acyclic graph, DAG）表示。
*网络结构
BP 网络是所有的神经网络中结构最为单纯的一种。
输入层不算。看有几层就看隐藏层和输出层
神经网络本身就有很多种设计模式，并且会在不同的模式下 产生不同的训练效果和运用特点。
*线性回归训练
y=wx+b
如何求出未知的w和b呢？
*牛顿法
说白了就是迭代算法。
迭代法的核心思路就是用步步逼近的方式来接近理论上的精确值，只要发现当前的试 探值已经收敛到一个满足场景要求的误差精度就可以判断迭代结束，用这个试探值来充当 求解的目标值。
这种方法可以使很多“直接法” e无法求解的问题得到一个足够精确的近 似解。