Parametry kwantyzacji odpowiadające tabeli QuantizationParameters
w pliku schematu modelu TFLite.
Ponieważ kwantyzacja na kanał nie ma zastosowania do tensorów wejściowych i wyjściowych, scale
i zero_point
są pojedynczymi wartościami, a nie tablicami.
W przypadku tensora, który nie jest skwantowany, wartości skali i punktu zerowego wynoszą 0.
Biorąc pod uwagę skwantowaną wartość q, odpowiadająca jej wartość zmiennoprzecinkowa f powinna wynosić:
f = skala * (q - punkt zerowy)
Konstruktorzy publiczni
QuantizationParams (skala zmiennoprzecinkowa, int zeroPoint) |
Metody publiczne
platforma | pobierz skalę () Zwraca wartość skali. |
wew | zdobądźZeroPoint () Zwraca wartość punktu zerowego. |
Metody dziedziczone
Konstruktorzy publiczni
public QuantizationParams (skala zmiennoprzecinkowa, int zeroPoint)
Tworzy Tensor.QuantizationParams
ze scale
i zero_point
.
Parametry
skala | Wartość skali używana w kwantyzacji. |
---|---|
punkt zerowy | Wartość punktu zerowego używana w kwantyzacji. |
Metody publiczne
publiczny float getScale ()
Zwraca wartość skali.
publiczny int getZeroPoint ()
Zwraca wartość punktu zerowego.