Tensorflow :: ops :: ResourceApplyRMSProp

#include <training_ops.h>

Aktualisieren Sie '* var' gemäß dem RMSProp-Algorithmus.

Zusammenfassung

Beachten Sie, dass bei einer dichten Implementierung dieses Algorithmus ms und mom aktualisiert werden, selbst wenn der Grad Null ist. Bei dieser spärlichen Implementierung werden ms und Mom jedoch nicht in Iterationen aktualisiert, bei denen der Grad Null ist.

mean_square = Zerfall * mean_square + (1-Zerfall) * Gradient ** 2 Delta = Lernrate * Gradient / sqrt (mean_square + epsilon)

ms <- rho * ms_ {t-1} + (1-rho) * grad * grad mom <- Momentum * mom_ {t-1} + lr * grad / sqrt (ms + epsilon) var <- var - mom

Argumente:

• scope: Ein Scope- Objekt
• var: Sollte von einer Variablen stammen ().
• ms: Sollte von einer Variablen stammen ().
• Mutter: Sollte von einer Variablen stammen ().
• lr: Skalierungsfaktor. Muss ein Skalar sein.
• Rho: Zerfallsrate. Muss ein Skalar sein.
• epsilon: Ridge Begriff. Muss ein Skalar sein.
• grad: Der Gradient.

Optionale Attribute (siehe Attrs ):

• use_locking: Wenn True , wird die Aktualisierung der var-, ms- und mom-Tensoren durch eine Sperre geschützt. Andernfalls ist das Verhalten undefiniert, weist jedoch möglicherweise weniger Konflikte auf.

Kehrt zurück:

• die erstellte Operation

Konstruktoren und Destruktoren
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad)
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ResourceApplyRMSProp::Attrs & attrs)

Öffentliche Attribute
operation	Operation

Öffentliche Funktionen
operator::tensorflow::Operation () const

Öffentliche statische Funktionen
UseLocking (bool x)	Attrs

Strukturen
tensorflow :: ops :: ResourceApplyRMSProp :: Attrs	Optionale Attributsetzer für ResourceApplyRMSProp .

Öffentliche Attribute

Operation

Operation operation

Öffentliche Funktionen

ResourceApplyRMSProp

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

ResourceApplyRMSProp

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ResourceApplyRMSProp::Attrs & attrs
)

operator :: tensorflow :: Operation

 operator::tensorflow::Operation() const 

Öffentliche statische Funktionen

UseLocking

Attrs UseLocking(
  bool x
)