ResourceSparseApplyRmsProp

ResourceSparseApplyRmsProp classe final pública

Atualize '* var' de acordo com o algoritmo RMSProp.

Observe que na implementação densa deste algoritmo, ms e mom serão atualizados mesmo se o grad for zero, mas nesta implementação esparsa, ms e mom não serão atualizados em iterações durante as quais o grad for zero.

média_quadrada = decadência * média_quadrada + (1-decadência) * gradiente ** 2 Delta = taxa_de_prendizagem * gradiente / quadrada (média_quadrada + épsilon)

ms <- rho * ms_ {t-1} + (1-rho) * grad * grad mom <- momentum * mom_ {t-1} + lr * grad / sqrt (ms + epsilon) var <- var - mom

Classes aninhadas

classe ResourceSparseApplyRmsProp.Options Atributos opcionais para ResourceSparseApplyRmsProp

Constantes

Fragmento OP_NAME O nome desta operação, conforme conhecido pelo motor principal TensorFlow

Métodos Públicos

estática <T estende TType > ResourceSparseApplyRmsProp
criar ( Scope escopo, Operando <?> var, Operando <?> ms, Operando <?> mãe, Operando <T> lr, Operando <T> ró, Operando <T> impulso, Operando <T> epsilon, Operando <T > grad, Operando <? estende TNumber > índices, Options ... opções)
Método de fábrica para criar uma classe que envolve uma nova operação ResourceSparseApplyRmsProp.
estáticos ResourceSparseApplyRmsProp.Options
useLocking (booleano useLocking)

Métodos herdados

Constantes

nome_op final String public static

O nome desta operação, conforme conhecido pelo motor principal TensorFlow

Valor constante: "ResourceSparseApplyRMSProp"

Métodos Públicos

public static ResourceSparseApplyRmsProp criar ( Scope escopo, Operando <?> var, Operando <?> ms, Operando <?> mãe, Operando <T> lr, Operando <T> ró, Operando <T> impulso, Operando <T> epsilon, operando <T> grad, operando <? estende TNumber > índices, Options ... opções)

Método de fábrica para criar uma classe que envolve uma nova operação ResourceSparseApplyRmsProp.

Parâmetros
alcance escopo atual
var Deve ser de uma variável ().
em Deve ser de uma variável ().
mãe Deve ser de uma variável ().
lr Fator de escala. Deve ser um escalar.
rho Taxa de decaimento. Deve ser um escalar.
épsilon Termo de cume. Deve ser um escalar.
grad O gradiente.
índices Um vetor de índices na primeira dimensão de var, ms e mom.
opções carrega valores de atributos opcionais
Devoluções
  • uma nova instância de ResourceSparseApplyRmsProp

public static ResourceSparseApplyRmsProp.Options useLocking (Boolean useLocking)

Parâmetros
useLocking Se for `True`, a atualização dos tensores var, ms e mom é protegida por um bloqueio; caso contrário, o comportamento é indefinido, mas pode exibir menos contenção.