zoukankan      html  css  js  c++  java
  • 萌新向Python数据分析及数据挖掘 第三章 机器学习常用算法 第三节 梯度下降法 (上)理解篇

    理解

                特点

                           

                作用

                            最小化一个损失函数

                            最大化一个效用函数:梯度上升法

                随机梯度下降法

                            以单个数据作为梯度下降的依据

                                        优点

                批量梯度下降法

                            以整体数据作为每次梯度下降的方向的根据

                小批量梯度下降法

                            以K个数据作为梯度下降的依据

                故事

                            用损失函数做一个滑梯或者一个碗,定义一个重力方向,让他朝下,放一个小球让他滚动,最后记录他的位置和小球的高度,整个碗可能有几个洼,所以要重复多次放球

                                        随机梯度下降法

                                                    整个数据就是一个碗,抽取其中以个数据就相当于在碗里面找一条滑梯

                                                    超参数

                                                                n_iters

                                                                            需要坐遍滑梯多少轮

                                        批量梯度下降法

                                                    构造出整个碗

                                        小批量梯度下降法

                                                    留缝的碗

  • 相关阅读:
    win10家庭版添加远程桌面服务功能
    GNS3测试NAT元件功能
    prometheus监控系统之snmp-exporter部署来监控交换机端口流量
    GNS3内网配置虚拟机测试
    GNS3内网通过cloud与实际网络实现互连互通的实验(使用环回网口)
    添加对docker的监控
    docker环境下的Grafana安装
    prometheus配置pushgateway功能测试
    京东html面单
    顺丰html面单
  • 原文地址:https://www.cnblogs.com/romannista/p/10761706.html
Copyright © 2011-2022 走看看