Paramètres de quantification qui correspondent à la table QuantizationParameters
dans le fichier de schéma du modèle TFLite.
Étant donné que la quantification par canal ne s'applique pas aux tenseurs d'entrée et de sortie, scale
et zero_point
sont tous deux des valeurs uniques au lieu de tableaux.
Pour les tenseurs qui ne sont pas quantifiés, les valeurs de scale et zero_point sont toutes deux 0.
Étant donné une valeur quantifiée q, la valeur flottante correspondante f devrait être :
f = échelle * (q - point_zéro)
Constructeurs Publics
QuantizationParams (échelle flottante, int zeroPoint) |
Méthodes publiques
flotter | getScale () Renvoie la valeur d'échelle. |
int | obtenirZéroPoint () Renvoie la valeur du point zéro. |
Méthodes héritées
Constructeurs Publics
public QuantizationParams (échelle flottante, int zeroPoint)
Crée un Tensor.QuantizationParams
avec scale
et zero_point
.
Paramètres
échelle | La valeur d'échelle utilisée dans la quantification. |
---|---|
zéro point | La valeur du point zéro utilisée dans la quantification. |
Méthodes publiques
flotteur public getScale ()
Renvoie la valeur d'échelle.
public int getZeroPoint ()
Renvoie la valeur du point zéro.