RMSprop：一种用于训练神经网络的优化算法（optimizer）。它通过对每个参数的梯度平方做指数滑动平均，来自适应地调整学习率，从而在梯度波动较大或稀疏时让训练更稳定、更快收敛。常见于深度学习中的反向传播训练。（也常被写作 RMSProp）
/r m s prp/
I trained the network with RMSprop.
我用 RMSprop 来训练这个神经网络。
When the loss kept oscillating, RMSprop improved stability by scaling updates using an exponential moving average of squared gradients.
当损失函数持续震荡时，RMSprop 通过使用梯度平方的指数滑动平均来缩放参数更新，从而提升了训练稳定性。
RMSprop 来自 RMS（Root Mean Square，均方根）与 prop（propagation，传播/推进）组合的缩写，含义可理解为“用均方根尺度来推进（参数更新）”。该方法常与 Geoffrey Hinton 的课程讲义/口头传播相关，后来在深度学习框架中被广泛实现与使用。
Select Language