zoukankan      html  css  js  c++  java
  • 萌新向Python数据分析及数据挖掘 第三章 机器学习常用算法 第三节 梯度下降法 (上)理解篇

    理解

                特点

                           

                作用

                            最小化一个损失函数

                            最大化一个效用函数:梯度上升法

                随机梯度下降法

                            以单个数据作为梯度下降的依据

                                        优点

                批量梯度下降法

                            以整体数据作为每次梯度下降的方向的根据

                小批量梯度下降法

                            以K个数据作为梯度下降的依据

                故事

                            用损失函数做一个滑梯或者一个碗,定义一个重力方向,让他朝下,放一个小球让他滚动,最后记录他的位置和小球的高度,整个碗可能有几个洼,所以要重复多次放球

                                        随机梯度下降法

                                                    整个数据就是一个碗,抽取其中以个数据就相当于在碗里面找一条滑梯

                                                    超参数

                                                                n_iters

                                                                            需要坐遍滑梯多少轮

                                        批量梯度下降法

                                                    构造出整个碗

                                        小批量梯度下降法

                                                    留缝的碗

  • 相关阅读:
    centos : 创建交换分区
    用法记录
    mysql日志清理
    mysql 通过查看mysql 配置参数、状态来优化你的mysql
    [WPF 自定义控件]Window(窗体)的UI元素及行为
    [WPF 自定义控件]为Form和自定义Window添加FunctionBar
    [WPF 自定义控件]让Form在加载后自动获得焦点
    [WPF 自定义控件]简单的表单布局控件
    [WPF 自定义控件]以Button为例谈谈如何模仿Aero2主题
    [WPF 自定义控件]自定义控件的代码如何与ControlTemplate交互
  • 原文地址:https://www.cnblogs.com/romannista/p/10761706.html
Copyright © 2011-2022 走看看