tensorflow :: ops :: ResourceApplyRMSProp
#include <training_ops.h>
Perbarui '* var' sesuai dengan algoritma RMSProp.
Ringkasan
Perhatikan bahwa dalam implementasi padat algoritme ini, ms dan mom akan memperbarui meskipun gradnya nol, tetapi dalam implementasi renggang ini, ms dan mom tidak akan memperbarui dalam iterasi yang nilainya nol.
mean_square = decay * mean_square + (1-decay) * gradien ** 2 Delta = learning_rate * gradien / sqrt (mean_square + epsilon)
ms <- rho * ms_ {t-1} + (1-rho) * grad * grad mom <- momentum * mom_ {t-1} + lr * grad / sqrt (ms + epsilon) var <- var - mom
Argumen:
- scope: Objek Scope
- var: Harus dari Variabel ().
- ms: Harus dari Variabel ().
- ibu: Harus dari Variabel ().
- lr: Faktor penskalaan. Harus skalar.
- rho: Tingkat kerusakan. Harus skalar.
- epsilon: Istilah punggungan. Harus skalar.
- grad: Gradien.
Atribut opsional (lihat Attrs
):
- use_locking: Jika
True
, pembaruan tensor var, ms, dan mom dilindungi oleh kunci; jika tidak, perilakunya tidak ditentukan, tetapi mungkin menunjukkan lebih sedikit perselisihan.
Pengembalian:
-
Operation
dibuat
Pembuat dan Penghancur | |
---|---|
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad) | |
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ResourceApplyRMSProp::Attrs & attrs) |
Atribut publik | |
---|---|
operation |
Fungsi publik | |
---|---|
operator::tensorflow::Operation () const |
Fungsi statis publik | |
---|---|
UseLocking (bool x) |
Structs | |
---|---|
tensorflow :: ops :: ResourceApplyRMSProp :: Attrs | Penyetel atribut opsional untuk ResourceApplyRMSProp . |
Atribut publik
operasi
Operation operation
Fungsi publik
ResourceApplyRMSProp
ResourceApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad )
ResourceApplyRMSProp
ResourceApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, const ResourceApplyRMSProp::Attrs & attrs )
operator :: tensorflow :: Operasi
operator::tensorflow::Operation() const
Fungsi statis publik
UseLocking
Attrs UseLocking( bool x )