ResourceSparseApplyCenteredRmsProp

classe final pública ResourceSparseApplyCenteredRmsProp

Atualize '*var' de acordo com o algoritmo RMSProp centralizado.

O algoritmo RMSProp centrado utiliza uma estimativa do segundo momento centralizado (ou seja, a variância) para normalização, em oposição ao RMSProp regular, que utiliza o segundo momento (não centralizado). Isso geralmente ajuda no treinamento, mas é um pouco mais caro em termos de computação e memória.

Observe que na implementação densa desse algoritmo, mg, ms e mom serão atualizados mesmo se o grad for zero, mas nesta implementação esparsa, mg, ms e mom não serão atualizados em iterações durante as quais o grad for zero.

média_quadrada = decaimento * média_quadrada + (1-decadência) * gradiente ** 2 média_grad = decadência * média_grad + (1-decadência) * gradiente Delta = taxa de aprendizagem * gradiente / sqrt(média_quadrada + épsilon - média_grad ** 2)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + épsilon) var <- var - mom

Classes aninhadas

aula

ResourceSparseApplyCenteredRmsProp.Options

Atributos opcionais para ResourceSparseApplyCenteredRmsProp

Constantes

Corda

OP_NAME

O nome desta operação, conforme conhecido pelo mecanismo principal do TensorFlow

Métodos Públicos

estático <T estende TType > ResourceSparseApplyCenteredRmsProp	create ( Escopo , Operando <?> var, Operando <?> mg, Operando <?> ms, Operando <?> mãe, Operando <T> lr, Operando <T> rho, Operando <T> momentum, Operando <T> > épsilon, Operando <T> grad, Operando <?estende TNumber > índices, Opções... opções) Método de fábrica para criar uma classe que envolve uma nova operação ResourceSparseApplyCenteredRmsProp.
ResourceSparseApplyCenteredRmsProp.Options estático	useLocking (booleano useLocking)

Métodos herdados

Da classe org.tensorflow.op.RawOp

booleano final	é igual (objeto obj)
int final	código hash ()
Operação	op () Retorne esta unidade de cálculo como uma única Operation .
sequência final	para sequenciar ()

Da classe java.lang.Object

boleano	é igual (objeto arg0)
aula final<?>	getClass ()
interno	código hash ()
vazio final	notificar ()
vazio final	notificar todos ()
Corda	para sequenciar ()
vazio final	espere (long arg0, int arg1)
vazio final	espere (arg0 longo)
vazio final	espere ()

Da interface org.tensorflow.op.Op

ambiente de execução abstrato	env () Retorne o ambiente de execução em que esta operação foi criada.
operação abstrata	op () Retorne esta unidade de cálculo como uma única Operation .

Constantes

String final estática pública OP_NAME

O nome desta operação, conforme conhecido pelo mecanismo principal do TensorFlow

Valor Constante: "ResourceSparseApplyCenteredRMSProp"

Métodos Públicos

public static ResourceSparseApplyCenteredRmsProp create ( Escopo escopo , Operando <?> var, Operando <?> mg, Operando <?> ms, Operando <?> mãe, Operando <T> lr, Operando <T> rho, Operando <T> momentum, Operando <T> épsilon, Operando <T> grad, Operando <?estende TNumber > índices, Opções... opções)

Método de fábrica para criar uma classe que envolve uma nova operação ResourceSparseApplyCenteredRmsProp.

Parâmetros

escopo	escopo atual
var	Deve ser de uma variável().
mg	Deve ser de uma variável().
EM	Deve ser de uma variável().
mãe	Deve ser de uma variável().
lr	Fator de escala. Deve ser um escalar.
ró	Taxa de decaimento. Deve ser um escalar.
épsilon	Termo de cume. Deve ser um escalar.
graduado	O gradiente.
índices	Um vetor de índices na primeira dimensão de var, ms e mom.
opções	carrega valores de atributos opcionais

Devoluções

• uma nova instância de ResourceSparseApplyCenteredRmsProp

public static ResourceSparseApplyCenteredRmsProp.Options useLocking (booleano useLocking)

Parâmetros

useLocking	Se `True`, a atualização dos tensores var, mg, ms e mom é protegida por um bloqueio; caso contrário, o comportamento será indefinido, mas poderá apresentar menos contenção.