ResourceApplyRmsProp

ResourceApplyRmsProp classe final pública

Atualize '* var' de acordo com o algoritmo RMSProp.

Observe que na implementação densa desse algoritmo, ms e mom serão atualizados mesmo se o grad for zero, mas nesta implementação esparsa, ms e mom não serão atualizados em iterações durante as quais o grad for zero.

quadrado médio = decadência * quadrado médio + (1-decaimento) * gradiente ** 2 Delta = taxa_de_prendizagem * gradiente / quadrado (quadrado médio + epsilon)

ms <- rho * ms_ {t-1} + (1-rho) * grad * grad mom <- momentum * mom_ {t-1} + lr * grad / sqrt (ms + epsilon) var <- var - mom

Classes aninhadas

classe ResourceApplyRmsProp.Options Atributos opcionais para ResourceApplyRmsProp

Constantes

Fragmento OP_NAME O nome desta operação, conforme conhecido pelo motor principal TensorFlow

Métodos Públicos

estática <T estende TType > ResourceApplyRmsProp
criar ( Scope escopo, Operando <?> var, Operando <?> ms, Operando <?> mãe, Operando <T> lr, Operando <T> ró, Operando <T> impulso, Operando <T> epsilon, Operando <T > grad, Options ... opções)
Método de fábrica para criar uma classe que envolve uma nova operação ResourceApplyRmsProp.
estáticos ResourceApplyRmsProp.Options
useLocking (booleano useLocking)

Métodos herdados

Constantes

nome_op final String public static

O nome desta operação, conforme conhecido pelo motor principal TensorFlow

Valor constante: "ResourceApplyRMSProp"

Métodos Públicos

public static ResourceApplyRmsProp criar ( Scope escopo, Operando <?> var, Operando <?> ms, Operando <?> mãe, Operando <T> lr, Operando <T> ró, Operando <T> impulso, Operando <T> epsilon, operando <T> grad, Options ... opções)

Método de fábrica para criar uma classe que envolve uma nova operação ResourceApplyRmsProp.

Parâmetros
alcance escopo atual
var Deve ser de uma variável ().
em Deve ser de uma variável ().
mãe Deve ser de uma variável ().
lr Fator de escala. Deve ser um escalar.
rho Taxa de decaimento. Deve ser um escalar.
épsilon Termo de cume. Deve ser um escalar.
grad O gradiente.
opções carrega valores de atributos opcionais
Devoluções
  • uma nova instância de ResourceApplyRmsProp

public static ResourceApplyRmsProp.Options useLocking (Boolean useLocking)

Parâmetros
useLocking Se for `True`, a atualização dos tensores var, ms e mom é protegida por um bloqueio; caso contrário, o comportamento é indefinido, mas pode exibir menos contenção.