TFLite Model şema dosyasındaki QuantizationParameters
tablosuna karşılık gelen niceleme parametreleri.
Kanal başına nicemleme giriş ve çıkış tensörleri için geçerli olmadığından, scale
ve zero_point
diziler yerine tek değerlerdir.
Kuantize edilmemiş tensör için, ölçek ve sıfır_nokta değerlerinin her ikisi de 0'dır.
Nicelenmiş bir q değeri verildiğinde, karşılık gelen kayan değer f şöyle olmalıdır:
f = ölçek * (q - sıfır_noktası)
Kamu İnşaatçıları
QuantizationParams (float Scale, int ZeroPoint) |
Genel Yöntemler
batmadan yüzmek | getScale () Ölçek değerini döndürür. |
int | getZeroPoint () Sıfır noktası değerini döndürür. |
Kalıtsal Yöntemler
Kamu İnşaatçıları
public QuantizationParams (float Scale, int ZeroPoint)
scale
ve zero_point
ile bir Tensor.QuantizationParams
oluşturur.
Parametreler
ölçek | Kuantizasyonda kullanılan ölçek değeri. |
---|---|
sıfır Noktası | Kuantizasyonda kullanılan sıfır noktası değeri. |
Genel Yöntemler
halka açık kayan nokta getScale ()
Ölçek değerini döndürür.
public int getZeroPoint ()
Sıfır noktası değerini döndürür.