ResourceApplyAdam

classe finale publique ResourceApplyAdam

Mettez à jour '*var' selon l'algorithme d'Adam.

$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{v_t} + \epsilon)$$

Classes imbriquées

classe ResourceApplyAdam.Options Attributs facultatifs pour ResourceApplyAdam

Constantes

Chaîne OP_NAME Le nom de cette opération, tel que connu par le moteur principal TensorFlow

Méthodes publiques

statique <T étend TType > ResourceApplyAdam
créer ( Scope scope, Opérande <?> var, Opérande <?> m, Opérande <?> v, Opérande <T> beta1Power, Opérande <T> beta2Power, Opérande <T> lr, Opérande <T> beta1, Opérande <T > beta2, Opérande <T> epsilon, Opérande <T> grad, Options... options)
Méthode d'usine pour créer une classe encapsulant une nouvelle opération ResourceApplyAdam.
ResourceApplyAdam.Options statique
useLocking (booléen useLocking)
ResourceApplyAdam.Options statique
useNesterov (booléen useNesterov)

Méthodes héritées

Constantes

chaîne finale statique publique OP_NAME

Le nom de cette opération, tel que connu par le moteur principal TensorFlow

Valeur constante : "ResourceApplyAdam"

Méthodes publiques

public static ResourceApplyAdam create ( Scope scope, Operand <?> var, Operand <?> m, Operand <?> v, Operand <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T> beta1, Opérande <T> beta2, Opérande <T> epsilon, Opérande <T> grad, Options... options)

Méthode d'usine pour créer une classe encapsulant une nouvelle opération ResourceApplyAdam.

Paramètres
portée portée actuelle
var Doit provenir d'une variable ().
m Doit provenir d'une variable ().
v Doit provenir d'une variable ().
bêta1Puissance Ça doit être un scalaire.
bêta2Power Ça doit être un scalaire.
g / D Facteur d'échelle. Ça doit être un scalaire.
bêta1 Facteur d'élan. Ça doit être un scalaire.
bêta2 Facteur d'élan. Ça doit être un scalaire.
épsilon Terme de crête. Ça doit être un scalaire.
diplômé Le dégradé.
choix porte des valeurs d'attributs facultatifs
Retour
  • une nouvelle instance de ResourceApplyAdam

public statique ResourceApplyAdam.Options useLocking (booléen useLocking)

Paramètres
utiliserVerrouillage Si `True`, la mise à jour des tenseurs var, m et v sera protégée par un verrou ; sinon, le comportement n'est pas défini, mais peut présenter moins de conflits.

public static ResourceApplyAdam.Options useNesterov (booléen useNesterov)

Paramètres
utiliser Nesterov Si « True », utilise la mise à jour Nesterov.