RMSProp

classe publique RMSProp

Optimiseur qui implémente l'algorithme RMSProp.

L’essentiel de RMSprop est de :

• Maintenir une moyenne mobile (actualisée) du carré des dégradés
• Divisez le dégradé par la racine de cette moyenne

Cette implémentation de RMSprop utilise l'élan simple, et non l'élan de Nesterov.

La version centrée maintient en outre une moyenne mobile des gradients et utilise cette moyenne pour estimer la variance.

Voir également

• Hinton G, et coll. 2012, notes de cours, telle est inexplicablement la référence canonique.

Constantes

booléen	CENTERED_DEFAULT
flotter	DECAY_DEFAULT
flotter	EPSILON_DEFAULT
flotter	LEARNING_RATE_DEFAULT
Chaîne	MG
Chaîne	ÉLAN
flotter	MOMENTUM_DEFAULT
Chaîne	RMS

Constantes héritées

De la classe org.tensorflow.framework.optimizers.Optimizer

Chaîne

VARIABLE_V2

Constructeurs Publics

	RMSProp ( Graphique ) Crée un optimiseur RMSPRrop
	RMSProp ( Graphique graphique , taux d'apprentissage flottant) Crée un optimiseur RMSPRrop
	RMSProp ( Graphique , float learningRate, float decay, float momentum, float epsilon, booléen centré) Crée un optimiseur RMSPRrop
	RMSProp ( Graphique , nom de chaîne, taux d'apprentissage flottant) Crée un optimiseur RMSPRrop
	RMSProp ( Graphique , nom de la chaîne, float learningRate, float decay, float momentum, float epsilon, booléen centré) Crée un optimiseur RMSPRrop

Méthodes publiques

Chaîne	getOptimizerName () Obtenez le nom de l'optimiseur.
Chaîne	àChaîne ()

Méthodes héritées

De la classe org.tensorflow.framework.optimizers.Optimizer

Opération	applyGradients (List< GradAndVar <? extends TType >> gradsAndVars, nom de la chaîne) Applique des dégradés aux variables
<T étend TType > List< GradAndVar <?>>	calculateGradients (perte de l'opérande <?>) Calcule les gradients en fonction d'un opérande de perte.
Chaîne statique	createName ( Sortie <? extends TType > variable, String slotName) Crée un nom en combinant un nom de variable et un nom d'emplacement
chaîne abstraite	getOptimizerName () Obtenez le nom de l'optimiseur.
<T étend TType > Facultatif< Variable <T>>	getSlot ( Sortie <T> var, String slotName) Obtient l'emplacement associé à la variable spécifiée et au nom de l'emplacement.
Opérations finales	obtenirTF () Obtient l'instance Ops de l'Optimizer
Opération	minimiser (perte de l'opérande <?>) Minimise la perte en mettant à jour les variables
Opération	minimiser (perte de l'opérande <?>, nom de la chaîne) Minimise la perte en mettant à jour les variables

De la classe java.lang.Object

booléen	est égal à (Objet arg0)
Classe finale<?>	obtenirClasse ()
int	Code de hachage ()
vide final	notifier ()
vide final	notifierTous ()
Chaîne	àChaîne ()
vide final	attendre (long arg0, int arg1)
vide final	attendez (long arg0)
vide final	attendez ()

Constantes

public statique final booléen CENTERED_DEFAULT

Valeur constante : faux

public statique final float DECAY_DEFAULT

Valeur constante : 0,9

public statique final float EPSILON_DEFAULT

Valeur constante : 1,0E-10

public statique final float LEARNING_RATE_DEFAULT

Valeur constante : 0,001

chaîne finale statique publique MG

Valeur constante : "mg"

chaîne finale statique publique MOMENTUM

Valeur constante : « élan »

public statique final float MOMENTUM_DEFAULT

Valeur constante : 0,0

chaîne finale statique publique RMS

Valeur constante : "rms"

Constructeurs Publics

public RMSProp ( Graphique )

Crée un optimiseur RMSPRrop

Paramètres

graphique	le graphique TensorFlow

public RMSProp ( Graphique , taux d'apprentissage flottant)

Crée un optimiseur RMSPRrop

Paramètres

graphique	le graphique TensorFlow
taux d'apprentissage	le taux d'apprentissage

public RMSProp ( Graphique , float learningRate, float decay, float momentum, float epsilon, booléen centré)

Crée un optimiseur RMSPRrop

Paramètres

graphique	le graphique TensorFlow
taux d'apprentissage	le taux d'apprentissage
pourriture	Facteur d’actualisation pour le gradient historique/à venir. La valeur par défaut est 0,9.
élan	le facteur d'accélération, la valeur par défaut est 0.
épsilon	Une petite constante pour la stabilité numérique
centré	Si true , les gradients sont normalisés par la variance estimée du gradient ; si false , par le deuxième moment non centré. Définir cela sur true peut faciliter la formation, mais est légèrement plus coûteux en termes de calcul et de mémoire. La valeur par défaut est false .

public RMSProp ( Graphique , nom de chaîne, taux d'apprentissage flottant)

Crée un optimiseur RMSPRrop

Paramètres

graphique	le graphique TensorFlow
nom	le nom de cet optimiseur. La valeur par défaut est "RMSProp".
taux d'apprentissage	le taux d'apprentissage

public RMSProp ( Graph graph, String name, float learningRate, float decay, float momentum, float epsilon, booléen centré)

Crée un optimiseur RMSPRrop

Paramètres

graphique	le graphique TensorFlow
nom	le nom de cet optimiseur. La valeur par défaut est "RMSProp".
taux d'apprentissage	le taux d'apprentissage
pourriture	Facteur d’actualisation pour le gradient historique/à venir. La valeur par défaut est 0,9.
élan	Le facteur d'accélération, par défaut est 0.
épsilon	Une petite constante pour la stabilité numérique
centré	Si true , les gradients sont normalisés par la variance estimée du gradient ; si false , par le deuxième moment non centré. Définir cela sur true peut faciliter la formation, mais est légèrement plus coûteux en termes de calcul et de mémoire. La valeur par défaut est false .

Méthodes publiques

chaîne publique getOptimizerName ()

Obtenez le nom de l'optimiseur.

Retour

• Le nom de l'optimiseur.

chaîne publique versString ()