转载请注明：http://blog.csdn.net/xinzhangyanxiang/article/details/9113681
最近在看Ng的机器学习公开课，Ng的讲法循循善诱，感觉提高了不少。该系列视频共20个，每看完一个视频，我都要记录一些笔记，包括公式的推导，讲解时候的例子等。按照Ng的说法，公式要自己推理一遍才能理解的通透，我觉得自己能够总结出来，发到博客上，也能达到这个效果，希望有兴趣的同学要循序渐进，理解完一个算法再开始学另外一个算法，每个算法总结一遍，虽然看起来很慢，但却真正的理解了，所谓虽慢实快者也。
该系列的视频对于数学公式的推导讲的很细，相信看完该视频后会对机器学习的各种算法的推导很熟悉。
由于csdn博客上写公式实在是太难弄了，如果一个公式一个公式的转成图片传上来，反而是排版很差。所以索性全部弄成图片传上来，虽然这样不利于SEO，但是在csdn这个平台下，相信还是会有很多人看到我的博客的，希望能对读者有所帮助。
视频1-2的笔记见上一篇博文，本文是第三个视频的笔记。
第3个视频的笔记如下，主要的内容包括局部加权回归、最小二乘的概率解释、逻辑斯蒂回归、感知器算法。
