Parameter kuantisasi yang sesuai dengan tabel, QuantizationParameters
, dalam file skema Model TFLite.
Karena kuantisasi per saluran tidak berlaku untuk tensor input dan output, scale
dan zero_point
keduanya merupakan nilai tunggal, bukan array.
Untuk tensor yang tidak terkuantisasi, nilai skala dan titik_nol keduanya 0.
Mengingat nilai terkuantisasi q, nilai float yang sesuai f seharusnya:
f = skala * (q - titik_nol)
Konstruktor Publik
QuantizationParams (skala mengambang, int zeroPoint) |
Metode Publik
mengambang | dapatkan Skala () Mengembalikan nilai skala. |
ke dalam | dapatkanZeroPoint () Mengembalikan nilai titik nol. |
Metode Warisan
Konstruktor Publik
QuantizationParams publik (skala mengambang, int zeroPoint)
Membuat Tensor.QuantizationParams
dengan scale
dan zero_point
.
Parameter
skala | Nilai skala yang digunakan dalam kuantisasi. |
---|---|
titik nol | Nilai titik nol yang digunakan dalam kuantisasi. |
Metode Publik
getScale float publik ()
Mengembalikan nilai skala.
int publik getZeroPoint ()
Mengembalikan nilai titik nol.