zoukankan
html css js c++ java
GBDT--简单理解
梳理
1.Model Ensemble 能够分为三大类:Bagging,Boosting。 Stacking.
2.Boosting能够说是一个思想(框架),而Adaboost等算法仅仅是其一个子类,记得ICCV2015有一个结合CNN和Boosting的工作获得了Best Paper Award?:
3.Boosting的
前向分布算法
(在每一步求解弱分类器Φ(m)和其參数w(m)的时候不去改动之前已经求好的分类器和參数):
4.不同的objective和最小化其的方法决定了不同种类的Boosting:
5.GBDT事实上就是上图中的Gradient Boosting的一个子类(弱分类器为决策树)
决策树
1.决策树的入门介绍參考:
算法杂货铺——分类算法之决策树(Decision tree)
2.决策树的特征选择: 1)信息增益, 2)信息增益比
3.决策树的生成算法:1)ID3算法–依据信息增益。 2)C4.5算法–依据信息增益比。 3)CART(包含回归和分类。二叉树生成)
4.决策树的剪枝:事实上就是一个Loss和T(表示决策树结点个数)trade off的过程
5.详细细节參考:《统计学习方法–李航》
查看全文
相关阅读:
关于RAS加密中pfx格式提取字符串私钥 (转)
Oracle冷备份和热备份的实践(原创)
数据库的备份与恢复(oracle 11g) (转)
Oracle安装-------实例化EM 配置文件时出错问题 ( 转 )
oracle表空间维护常用命令
使用Navicat for Oracle新建表空间、用户及权限赋予 (转)
【JavaScript】JavaScript模块化编程
【随笔】入行必读:互联网行业薪酬等级
【JavaScript】JavaScript Promise 探微
【Java】关于并发
原文地址:https://www.cnblogs.com/yxysuanfa/p/7257673.html
最新文章
int类型转string类型c++
git log 退出方法
linux shell终端打开方式
SVM实现分类识别及参数调优(一)
OpenCV Error: Insufficient memory问题解析
第20课 链接过程简介
第19课 编译过程简介
第18课 三目运算符和逗号表达式
第17课 ++和--操作符分析
第16课 位运算符分析
热门文章
第15课 逻辑运算符分析
第14课 单引号和双引号
第12课 注释符号
第11课 enum、sizeof、typedef 分析
第10课 struct 和 union 分析
第9课 const和volatile分析
win7 QT +opencv环境搭建
嵌入式开发板上汉字无法显示
luvcview,使用mplayer查看摄像头和luvcview保存YUV图像视频的播放(转)
PHP RSA加签的实现过程
Copyright © 2011-2022 走看看