tensorflow :: ops :: SparseApplyRMSProp

#include <training_ops.h>

Perbarui '* var' sesuai dengan algoritma RMSProp.

Ringkasan

Perhatikan bahwa dalam implementasi padat algoritme ini, ms dan mom akan memperbarui meskipun gradnya nol, tetapi dalam implementasi renggang ini, ms dan mom tidak akan memperbarui dalam iterasi yang nilainya nol.

mean_square = decay * mean_square + (1-decay) * gradient ** 2 Delta = learning_rate * gradien / sqrt (mean_square + epsilon)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$

$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$

$$var <- var - mom$$

Argumen:

• scope: Objek Scope
• var: Harus dari Variabel ().
• ms: Harus dari Variabel ().
• ibu: Harus dari Variabel ().
• lr: Faktor penskalaan. Harus skalar.
• rho: Tingkat kerusakan. Harus skalar.
• epsilon: Istilah punggungan. Harus skalar.
• grad: Gradien.
• indeks: Vektor indeks ke dalam dimensi pertama dari var, ms dan mom.

Atribut opsional (lihat Attrs ):

• use_locking: Jika True , pembaruan tensor var, ms, dan mom dilindungi oleh kunci; jika tidak, perilakunya tidak ditentukan, tetapi mungkin menunjukkan lebih sedikit perselisihan.

Pengembalian:

• Output : Sama seperti "var".

Pembuat dan Penghancur
SparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices)
SparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices, const SparseApplyRMSProp::Attrs & attrs)

Atribut publik
operation	Operation
out	:: tensorflow::Output

Fungsi publik
node () const	::tensorflow::Node *
operator::tensorflow::Input () const
operator::tensorflow::Output () const

Fungsi statis publik
UseLocking (bool x)	Attrs

Structs
tensorflow :: ops :: SparseApplyRMSProp :: Attrs	Penyetel atribut opsional untuk SparseApplyRMSProp .

Atribut publik

operasi

Operation operation

di luar

::tensorflow::Output out

Fungsi publik

SparseApplyRMSProp

 SparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

SparseApplyRMSProp

 SparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const SparseApplyRMSProp::Attrs & attrs
)

simpul

::tensorflow::Node * node() const 

operator :: tensorflow :: Input

 operator::tensorflow::Input() const 

operator :: tensorflow :: Keluaran

 operator::tensorflow::Output() const 

Fungsi statis publik

UseLocking

Attrs UseLocking(
  bool x
)