Kwantyzuje TensorBuffer z podanym zeroPoint i scale .
Uwaga: QuantizeOp nie rzutuje danych wyjściowych na UINT8, a jedynie wykonuje obliczenia kwantyzacyjne na podstawie danych wejściowych. Typ danych tensora wyjściowego to zawsze FLOAT32 , z tą różnicą, że Op jest w rzeczywistości operacją tożsamościową (w tym przypadku tensor wyjściowy jest tą samą instancją co wejście). Aby połączyć się z modelem skwantowanym, prawdopodobnie potrzebny jest CastOp .
Jeśli zarówno zeroPoint jak i scale mają wartość 0, QuantizeOp zostanie pominięty, co jest równoznaczne z ustawieniem zeroPoint na 0 i scale na 1. Może to być przydatne przy przekazywaniu parametrów kwantyzacji wyodrębnionych bezpośrednio z płaskiego bufora modelu TFLite. Jeśli tensor nie jest skwantowany, zarówno zeroPoint , jak i scale zostaną odczytane jako 0.
Konstruktorzy publiczni
QuantizeOp (zmienny punkt zerowy, skala zmiennoprzecinkowa) |
Metody dziedziczone
Konstruktorzy publiczni
public QuantizeOp (float zeroPoint, float skala)
Parametry
| punkt zerowy | |
|---|---|
| skala |