机器学习、深度学习及NLP需要掌握的相关算法

机器学习：

1. 线性回归（Liner Regression）
2. 逻辑回归（Logistics Regression）
3. 决策树（Desision Tree）
   1. 随机森林（Random Forest）
   2. 梯度提升决策树（GBDT）
   3. XGBoost
   4. LightGBM
4. 支持向量机（SVM）
5. 概率图模型（Probabilistic Graphical Model）
   1. 贝叶斯网络（Bayesian Network）
   2. 马尔科夫（Markov）
   3. 主题模型（Topic Model）
6. 最大期望算法（EM）
7. 聚类（Clustering）
   1. k均值聚类算法(kMeans)
8. ML特征工程和优化方法
9. k近邻算法（kNN）

深度学习：

1. 神经网络（Neural Network）
2. 卷积神经网络（CNN）
3. 循环神经网络（RNN）
   1. 门控制单元（GRU）
   2. 长短期记忆（LSTM）
4. 深度学习的优化方法

NLP：

1. 词嵌入（Word2Vec）
2. 子词嵌入（fastText）
3. 全局向量嵌入（GloVe）
4. textCNN（深度学习文本分类）
5. 序列到序列模型（seq2seq）
6. 注意力机制（Attention Mechanism）
7. BERT模型

自学书籍：

统计学习方法（ML）、蒲公英书（DL）、西瓜书、Deep Learning（花书）

机器学习实战（ML）

ML、DL工程化较常用的框架：xgboost、pytorch、tensorflow

ML、DL其中很多算法与数学相关，矩阵运算（线性代数）、概率论及一些最优化的方法（微积分等高数相关），涉及相关的数学知识第一列这些书讲的都比较好。

自学视频推荐：

Andrew Ng（吴恩达）《Machine Learning》、《deeplearning.ai》 可以在网易云课堂上找到。