Epoch
一个epoch指代所有的数据送入网络中完成一次前向计算及反向传播的过程。由于数据量太大，无法一次将所有数据送入模型，因此采用分批次送入模型的方式，在训练时，将所有数据迭代训练一次是不够的，需要反复多次才能拟合收敛。
Batch Size
每次送入网络中训练的一部分数据，而Batch Size就是每个batch中训练样本的数量。
Iterations
完成一次epoch所需的batch个数。
有2000个数据，分成4个batch，那么batch size就是500。运行所有的数据进行训练，完成1个epoch，需要进行4次iterations。
参考链接：https://www.jianshu.com/p/e5076a56946c/