机器学习算法速览表
1. 回归
- 普通最小二乘回归（OLSR）
- 线性回归
- Logistic回归
- 逐步回归
- 多变量自适应回归样条曲线（MARS）
- 局部估计散射平滑（LOESS）
- 折刀回归
2. 正则
- 岭回归
- 最少的绝对收缩和选择算子（LASSO）
- 弹性网
- 最小角度回归（LARS）
3. 基于实例的，基于记忆的
- k-最近邻（kNN）
- 学习矢量量化（LVQ）
- 自组织映射（SOM）
- 本地加权学习（LWL）
4. 降维
- 主成分分析（PCA）
- 主成分回归（PCR）
- 偏最小二乘回归（PLSR）
- Sammon映射
- 多维度缩放（MDS）
- 投影追求
- 判别分析（LDA，MDA，QDA，FDA）
5. 深度学习
- 深度玻尔兹曼机器（DBM）
- 深信仰网络（DBN）
- 卷积神经网络（CNN）
- 堆叠的自动编码器
- RNN
6.关联规则
7. 集成学习
- Logit Boost（Boosting）
- 自举聚合（Bagging）
- AdaBoost
- 堆叠泛化（混合）
- 梯度增压机（GBM）
- 梯度增强回归树（GBRT）
- 随机森林
8. 贝叶斯
- 朴素贝叶斯
- 高斯朴素贝叶斯
- 多项式朴素贝叶斯
- 平均一依赖估计量（AODE）
- 贝叶斯信仰网络（BBN）
- 贝叶斯网络（BN）
- 隐马尔可夫模型
- 条件随机字段（CRF）
9. 决策树
- 分类和回归树（CART）
- 迭代Dickotomiser 3（ID3）
- C4.5和C5.0
- 卡方自动交互检测（CHAID）
- 决策树桩
- M5
- 有条件的决策树
10. 聚类
- 单连接群集
- K-均值
- K-中位数
- 预期最大化（EM）
- 分层聚类
- 模糊聚类
- DBSCAN
- OPTICS算法
- 非负矩阵分解
- 潜在狄利克雷分配（LDA）
11. 神经网络
- 自组织映射
- 感知
- 径向基函数网络（RBFN）
- 反向传播
- 自动编码
- Hopfield网络
- 玻尔兹曼机器
- 限制玻尔兹曼机器
- Spiking神经网络
- 学习矢量量化（LVQ）
12. 其它算法
- 支持向量机（SVM）
- 进化算法
- 归纳逻辑编程（ILP）
- 强化学习（Q-Learning，时间差异，状态-行为-反馈-状态-行为（SARSA））
- ANOVA
- 信息模糊Netowkr（干扰素）
- Page Rank
参考文献：
https://www.hackingnote.com/en/machine-learning/algorithms/