①批量梯度下降:有N个样本,求梯度的时候就用了N个样本的梯度数据
优点:准确
缺点:速度慢
②随机梯度下降:和批量梯度下降算法原理相似,区别在于求梯度时没有用所有的N歌样本数据,而是仅仅选取1个来求梯度
优点:速度快
缺点:准去率地
③小批量梯度下降:批量梯度下降算法和随机梯度下降算法的折中,比如N=100,spark中使用此方法