神经网络与机器学习第3版学习笔记-第0章 导言

神经网络与机器学习第3版学习笔记 

                           -初学者的笔记，记录花时间思考的各种疑惑

    本文主要阐述该书在数学推导上一笔带过的地方。参考学习，在流畅理解书本内容的同时，还能温顾学过的数学知识，达到事半功倍的效果。

第0章 导言

1、第9页

1.1 logistic函数在原点的倾斜率等于a/4？

     $\,\,varphi left( v ight) =frac{1}{1+e^{-av}}Rightarrow \,\,varphi’left( v ight) =frac{ae^{-av}}{left( 1+e^{-av} ight) ^2}Rightarrow varphi left( 0 ight) =frac{a}{4}$

     ※logistic函数 $fleft( x ight) =frac{1}{1+e^{-x}}$ 相关知识补充。

     $ecause \,\,f’left( x ight) =frac{e^{-x}}{left( 1+e^{-x} ight) ^2}$

     $ herefore \,\,f’left( x ight) =fleft( x ight) cdot left( 1-fleft( x ight) ight) $

1.2 signum函数  $sgn left( x ight) =frac{x}{left| x ight|}$

    中文名：正负号函数，又称为符号函数。

    ※与绝对值函数 $fleft( x ight) =left| x ight|$ 的关系：$sgn left( x ight) =f’left( x ight) $。

2、第11页

2.1 二项式 $left( 1-wz^{-l} ight) ^{-l}$ 展开结果为 $frac{1}{underset{l=0}{overset{infty}{varSigma}}w^l}z^{-l}$ ？

    $ecause $广义二项式定理：$left( x+y ight) ^{alpha}=underset{k=0}{overset{infty}{varSigma}}C_{alpha}^{k}x^{alpha -k}y^k$

    $ herefore left( 1-x ight) ^{-n}=frac{1}{left( 1-x ight) ^n}=frac{1}{underset{l=0}{overset{infty}{varSigma}}C_{n}^{l}x^l}$

    $ herefore left( 1-wz^{-1} ight) ^{-1}=frac{1}{underset{l=0}{overset{infty}{varSigma}}C_{1}^{l}left( wz^{-1} ight) ^l}=frac{1}{underset{l=0}{overset{infty}{varSigma}}w^l}z^{-l}$

3、第12页

3.1 图14中的输出信号指的是第一次的输入信号所产生的输出，而不是该次的总输出。