Tensor.QuantizationParams

publiczna klasa statyczna Tensor.QuantizationParams

Parametry kwantyzacji odpowiadające tabeli QuantizationParameters w pliku schematu modelu TFLite.

Ponieważ kwantyzacja na kanał nie ma zastosowania do tensorów wejściowych i wyjściowych, scale i zero_point są pojedynczymi wartościami, a nie tablicami.

W przypadku tensora, który nie jest skwantowany, wartości skali i punktu zerowego wynoszą 0.

Biorąc pod uwagę skwantowaną wartość q, odpowiadająca jej wartość zmiennoprzecinkowa f powinna wynosić:
f = skala * (q - punkt zerowy)

Konstruktorzy publiczni

QuantizationParams (skala zmiennoprzecinkowa, int zeroPoint)
Tworzy Tensor.QuantizationParams ze scale i zero_point .

Metody publiczne

platforma
pobierz skalę ()
Zwraca wartość skali.
wew
zdobądźZeroPoint ()
Zwraca wartość punktu zerowego.

Metody dziedziczone

Konstruktorzy publiczni

public QuantizationParams (skala zmiennoprzecinkowa, int zeroPoint)

Tworzy Tensor.QuantizationParams ze scale i zero_point .

Parametry
skala Wartość skali używana w kwantyzacji.
punkt zerowy Wartość punktu zerowego używana w kwantyzacji.

Metody publiczne

publiczny float getScale ()

Zwraca wartość skali.

publiczny int getZeroPoint ()

Zwraca wartość punktu zerowego.