李宏毅

1. 机器学习部分

课程笔记：

章节	简介
1 - Introduction & next step	机器学习介绍 & 机器学习下一步
2 - Regression + Demo	回归 & 示例代码
3 - Bias & Variance	偏差和方差
4 - Gradient Descent	梯度下降方法
5 - Classification	分类
6 - Logistic Regression	对数几率回归（逻辑回归）
7 - Deep Learning	深度学习介绍
8 - Backpropagation	反向传播
9 - Keras Demo	Keras代码示例
10 - Tips for Training DNN	深度学习技巧
11 - Keras Demo2 & Fizz Buzz	Keras代码优化
12 - CNN	卷积神经网络
13 - Why Deep	为什么要用深度学习
14 - Simi Supervised Learning	半监督学习
Explainable ML	可解释性机器学习
Transformer	Transformer及注意力机制
ELMO、BERT、GPT	ELMO、BERT、GPT-2、ERNIE

课后作业：

Week 1: 矩阵运算，图片操作

Week 2: CEO利润预测

论文阅读：

An overview of gradient descent optimization algorithms

参考资料：

李宏毅 2017 机器学习课程，哔哩哔哩

李宏毅 2019 机器学习前沿内容，哔哩哔哩

datawhale LeeML-Notes