Momentum和Nesterov Momentum Momentum momentum即动量,它模拟的是物体运动时的惯性,即更新的时候在一定程度上保留之前更新的方向,同时利用当前batch的梯度微调最终的更新方向。 2021-03-10 · gongdear · TensorFlow · 0 评论 · 0 浏览