L'initialiseur Glorot, également appelé initialiseur Xavier.
Tire des échantillons à partir d’une distribution aléatoire.
Si la distribution est TRUNCATED_NORMAL, alors la distribution est centrée sur 0 avec stddev = Math.sqrt(2. / (fanIn + fanOut))
où fanIn
est le nombre d'unités d'entrée dans le tenseur de poids et fanOut
est le nombre d'unités de sortie dans le tenseur de poids.
Si la distribution est UNIFORME, alors les échantillons sont tirés d'une distribution uniforme dans [-limit, limit]
, où limit = sqrt(6 / (fanIn + fanOut))
( fanIn
est le nombre d'unités d'entrée dans le tenseur de poids et fanOut
est le nombre d'unités de sortie).
Exemples:
Glorot Normal :
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.TRUNCATED_NORMAL, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
Uniforme Glorot :
long seed = 1001l; Glorot<TFloat32, TFloat32> initializer = new org.tensorflow.framework.initializers.Glorot<>(tf, Distribution.UNIFORM, seed); Operand<TFloat32> values = initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
NOTE:
Pour un initialiseur équivalent GlorotNormal, utilisez TRUNCATED_NORMAL
pour le paramètre de distribution.
Pour un initialiseur équivalent GlorotUniform, utilisez UNIFORM
pour le paramètre de distribution.
Voir également
Constantes
double | ÉCHELLE |
Constantes héritées
Champs hérités
Constructeurs Publics
Glorot (Ops tf, VarianceScaling.Distribution distribution, graine longue) Crée un initialiseur Glorot |
Méthodes héritées
Constantes
public statique final double SCALE
Constructeurs Publics
public Glorot (Ops tf, VarianceScaling.Distribution distribution, graine longue)
Crée un initialiseur Glorot
Paramètres
tf | les opérations TensorFlow |
---|---|
distribution | Le type de distribution pour l'initialiseur Glorot. |
graine | la graine pour la génération de nombres aléatoires. Un initialiseur créé avec une graine donnée produira toujours le même tenseur aléatoire pour une forme et un type donnés. |