RMSProp

clase pública RMSProp

Optimizador que implementa el algoritmo RMSProp.

La esencia de RMSprop es:

  • Mantener un promedio móvil (descontado) del cuadrado de gradientes
  • Divida el gradiente por la raíz de este promedio.

Esta implementación de RMSprop utiliza un impulso simple, no el impulso de Nesterov.

La versión centrada además mantiene un promedio móvil de los gradientes y usa ese promedio para estimar la varianza.

Constantes

booleano CENTERED_DEFAULT
flotador DECAY_DEFAULT
flotador EPSILON_DEFAULT
flotador LEARNING_RATE_DEFAULT
Cuerda MG
Cuerda IMPULSO
flotador MOMENTUM_DEFAULT
Cuerda RMS

Constantes heredadas

Constructores públicos

RMSProp ( gráfico de gráfico)
Crea un RMSPRrop Optimizer
RMSProp ( gráfico gráfico, tasa de aprendizaje flotante)
Crea un RMSPRrop Optimizer
RMSProp ( gráfico gráfico, tasa de aprendizaje flotante, decaimiento flotante, momento flotante, épsilon flotante, centrado booleano)
Crea un RMSPRrop Optimizer
RMSProp ( gráfico de gráfico, nombre de cadena, tasa de aprendizaje flotante)
Crea un RMSPRrop Optimizer
RMSProp ( gráfico de gráfico, nombre de cadena, tasa de aprendizaje flotante, decaimiento flotante, impulso flotante, épsilon flotante, centrado booleano)
Crea un RMSPRrop Optimizer

Métodos públicos

Cuerda
getOptimizerName ()
Obtenga el nombre del optimizador.
Cuerda

Métodos heredados

Constantes

público estático final booleano CENTERED_DEFAULT

Valor constante: falso

flotador final estático público DECAY_DEFAULT

Valor constante: 0.9

flotador final estático público EPSILON_DEFAULT

Valor constante: 1.0E-10

flotador final estático público LEARNING_RATE_DEFAULT

Valor constante: 0,001

Cadena final estática pública MG

Valor constante: "mg"

Cadena final estática pública MOMENTUM

Valor constante: "impulso"

flotador final estático público MOMENTUM_DEFAULT

Valor constante: 0.0

Cadena final estática pública RMS

Valor constante: "rms"

Constructores públicos

public RMSProp ( gráfico gráfico)

Crea un RMSPRrop Optimizer

Parámetros
grafico el gráfico de TensorFlow

public RMSProp ( gráfico gráfico, tasa de aprendizaje flotante)

Crea un RMSPRrop Optimizer

Parámetros
grafico el gráfico de TensorFlow
tasa de aprendizaje la tasa de aprendizaje

public RMSProp ( gráfico gráfico, tasa de aprendizaje flotante, decaimiento flotante, impulso flotante, épsilon flotante, centrado booleano)

Crea un RMSPRrop Optimizer

Parámetros
grafico el gráfico de TensorFlow
tasa de aprendizaje la tasa de aprendizaje
decaer Factor de descuento para el historial / gradiente próximo. El valor predeterminado es 0.9.
impulso el factor de aceleración, el valor predeterminado es 0.
épsilon Una pequeña constante para la estabilidad numérica
centrado Si es true , los gradientes se normalizan por la varianza estimada del gradiente; si es false , por el segundo momento descentrado. Establecer esto en true puede ayudar con el entrenamiento, pero es un poco más caro en términos de cálculo y memoria. El valor predeterminado es false .

public RMSProp ( gráfico de gráfico, nombre de cadena, tasa de aprendizaje flotante)

Crea un RMSPRrop Optimizer

Parámetros
grafico el gráfico de TensorFlow
nombre el nombre de este Optimizador. El valor predeterminado es "RMSProp".
tasa de aprendizaje la tasa de aprendizaje

public RMSProp ( gráfico de gráfico, nombre de cadena, tasa de aprendizaje flotante, decaimiento flotante, impulso flotante, épsilon flotante, centrado booleano)

Crea un RMSPRrop Optimizer

Parámetros
grafico el gráfico de TensorFlow
nombre el nombre de este Optimizador. El valor predeterminado es "RMSProp".
tasa de aprendizaje la tasa de aprendizaje
decaer Factor de descuento para el historial / gradiente próximo. El valor predeterminado es 0.9.
impulso El factor de aceleración, el valor predeterminado es 0.
épsilon Una pequeña constante para la estabilidad numérica
centrado Si es true , los gradientes se normalizan por la varianza estimada del gradiente; si es false , por el segundo momento descentrado. Establecer esto en true puede ayudar con el entrenamiento, pero es un poco más caro en términos de cálculo y memoria. El valor predeterminado es false .

Métodos públicos

public String getOptimizerName ()

Obtenga el nombre del optimizador.

Devoluciones
  • El nombre del optimizador.

cadena pública toString ()