关于优化器的选择

不同优化器有不同的收敛速度，那么应该怎么选择？

虽然很多新的优化算法比梯度下降快很多，但很多时候我们需要的是准确率而不是优化速度，可以先用较快的优化器来进行模型训练，最后一步步选择合适的优化器