Tensor.QuantizationParams

общедоступный статический класс Tensor.QuantizationParams

Параметры квантования, соответствующие таблице QuantizationParameters в файле схемы модели TFLite.

Поскольку поканальное квантование не применяется к входным и выходным тензорам, scale и zero_point являются отдельными значениями, а не массивами.

Для тензоров, которые не квантованы, значения масштаба и нулевой точки оба равны 0.

Учитывая квантованное значение q, соответствующее значение с плавающей запятой f должно быть:
f = масштаб * (q – нулевая_точка)

Публичные конструкторы

QuantizationParams (масштаб с плавающей запятой, int нулевая точка)
Создает Tensor.QuantizationParams со scale и zero_point .

Публичные методы

плавать
получитьМасштаб ()
Возвращает значение масштаба.
интервал
получитьZeroPoint ()
Возвращает значение нулевой точки.

Унаследованные методы

Публичные конструкторы

public QuantizationParams (масштаб с плавающей запятой, int ZeroPoint)

Создает Tensor.QuantizationParams со scale и zero_point .

Параметры
шкала Значение масштаба, используемое при квантовании.
нулевая точка Значение нулевой точки, используемое при квантовании.

Публичные методы

общедоступное число с плавающей запятой getScale ()

Возвращает значение масштаба.

public int getZeroPoint ()

Возвращает значение нулевой точки.