El inicializador de Glorot, también llamado inicializador de Xavier.
Extrae muestras de una distribución aleatoria.
Si la distribución es TRUNCATED_NORMAL, entonces la distribución se centra en 0 con stddev = Math.sqrt(2. / (fanIn + fanOut))
donde fanIn
es el número de unidades de entrada en el tensor de peso y fanOut
es el número de unidades de salida en el tensor de peso.
Si la distribución es UNIFORME, las muestras se extraen de una distribución uniforme dentro de [-limit, limit]
, donde limit = sqrt(6 / (fanIn + fanOut))
( fanIn
es el número de unidades de entrada en el tensor de peso y fanOut
es el número de unidades de salida).
Ejemplos:
Glorot Normal:
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.TRUNCATED_NORMAL, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
Uniforme Glorot:
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.UNIFORM, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
NOTA:
Para un inicializador equivalente a GlorotNormal, use TRUNCATED_NORMAL
para el parámetro de distribución.
Para un inicializador equivalente a GlorotUniform, use UNIFORM
para el parámetro de distribución.
Ver también
Constantes
doble | ESCALA |
Constantes heredadas
Campos heredados
Constructores públicos
Glorot (Ops tf, VarianceScaling. Distribución de distribución, semilla larga) Crea un inicializador de Glorot |
Métodos heredados
Constantes
público estático final doble ESCALA
Constructores públicos
public Glorot (Ops tf, VarianceScaling. Distribución de distribución, semilla larga)
Crea un inicializador de Glorot
Parámetros
tf | las operaciones de TensorFlow |
---|---|
distribución | El tipo de distribución para el inicializador Glorot. |
semilla | la semilla para la generación de números aleatorios. Un inicializador creado con una semilla dada siempre producirá el mismo tensor aleatorio para una forma y tipo d dados. |