RMSProp

classe pública RMSProp

Otimizador que implementa o algoritmo RMSProp.

A essência do RMSprop é:

  • Manter uma média móvel (com desconto) do quadrado dos gradientes
  • Divida o gradiente pela raiz desta média

Esta implementação do RMSprop usa o momentum puro, não o momentum de Nesterov.

A versão centrada adicionalmente mantém uma média móvel dos gradientes e usa essa média para estimar a variância.

Constantes

boleano CENTERED_DEFAULT
flutuador DECAY_DEFAULT
flutuador EPSILON_DEFAULT
flutuador LEARNING_RATE_DEFAULT
Fragmento MG
Fragmento MOMENTUM
flutuador MOMENTUM_DEFAULT
Fragmento RMS

Constantes herdadas

Construtores Públicos

RMSProp ( gráfico gráfico)
Cria um Otimizador RMSPRrop
RMSProp ( gráfico gráfico, float learningRate)
Cria um Otimizador RMSPRrop
RMSProp ( gráfico gráfico, float learningRate, decaimento do float, momentum do float, épsilon do float, centrado no booleano)
Cria um Otimizador RMSPRrop
RMSProp ( gráfico gráfico, nome da string, float learningRate)
Cria um Otimizador RMSPRrop
RMSProp ( gráfico gráfico, nome da string, float learningRate, decaimento do float, momento do float, épsilon float, centrado no booleano)
Cria um Otimizador RMSPRrop

Métodos Públicos

Fragmento
getOptimizerName ()
Obtenha o nome do otimizador.
Fragmento

Métodos herdados

Constantes

public static final boolean CENTERED_DEFAULT

Valor constante: falso

flutuante público estático final DECAY_DEFAULT

Valor constante: 0,9

flutuante público estático final EPSILON_DEFAULT

Valor constante: 1.0E-10

flutuante público estático final LEARNING_RATE_DEFAULT

Valor constante: 0,001

public static final String MG

Valor constante: "mg"

public static final String MOMENTUM

Valor constante: "momentum"

flutuante público estático final MOMENTUM_DEFAULT

Valor constante: 0,0

public static final String RMS

Valor constante: "rms"

Construtores Públicos

public RMSProp ( gráfico gráfico)

Cria um Otimizador RMSPRrop

Parâmetros
gráfico o gráfico TensorFlow

public RMSProp ( gráfico gráfico, float learningRate)

Cria um Otimizador RMSPRrop

Parâmetros
gráfico o gráfico TensorFlow
taxa de Aprendizagem a taxa de aprendizagem

public RMSProp ( gráfico gráfico, float learningRate, decaimento do float, momento do float, épsilon float, centrado no booleano)

Cria um Otimizador RMSPRrop

Parâmetros
gráfico o gráfico TensorFlow
taxa de Aprendizagem a taxa de aprendizagem
decair Fator de desconto para o gradiente histórico / próximo. O padrão é 0,9.
impulso o fator de aceleração, o padrão é 0.
épsilon Uma pequena constante para estabilidade numérica
centrado Se true , os gradientes são normalizados pela variância estimada do gradiente; se false , pelo segundo momento descentrado. Definir como true pode ajudar no treinamento, mas é um pouco mais caro em termos de computação e memória. O padrão é false .

public RMSProp ( gráfico gráfico, nome da string, float learningRate)

Cria um Otimizador RMSPRrop

Parâmetros
gráfico o gráfico TensorFlow
nome o nome deste Otimizador. O padrão é "RMSProp".
taxa de Aprendizagem a taxa de aprendizagem

public RMSProp ( Graph graph, String name, float learningRate, float decay, float momentum, float epsilon, booleano centrado)

Cria um Otimizador RMSPRrop

Parâmetros
gráfico o gráfico TensorFlow
nome o nome deste Otimizador. O padrão é "RMSProp".
taxa de Aprendizagem a taxa de aprendizagem
decair Fator de desconto para o gradiente histórico / próximo. O padrão é 0,9.
impulso O fator de aceleração, o padrão é 0.
épsilon Uma pequena constante para estabilidade numérica
centrado Se true , os gradientes são normalizados pela variância estimada do gradiente; se false , pelo segundo momento descentrado. Definir como true pode ajudar no treinamento, mas é um pouco mais caro em termos de computação e memória. O padrão é false .

Métodos Públicos

public String getOptimizerName ()

Obtenha o nome do otimizador.

Devoluções
  • O nome do otimizador.

public String toString ()