Parâmetros de quantização que corresponde à mesa, QuantizationParameters
, no arquivo de esquema TFLite Modelo.
Desde quantização por canal não é aplicável para tensores de entrada e saída, scale
e zero_point
são ambos os valores individuais em vez de matrizes.
Para tensores que não são quantizados, os valores de escala e zero_point são ambos 0.
Dado um valor quantizado q, o valor flutuante correspondente f deve ser:
f = escala * (q - ponto_zero)
Construtores Públicos
QuantizationParams (escala flutuador, int ponto zero) |
Métodos Públicos
flutuador | getScale () Retorna o valor da escala. |
int | getZeroPoint () Retorna o valor do ponto zero. |
Métodos herdados
Construtores Públicos
QuantizationParams públicas (escala float, int ponto zero)
Cria um MetadataExtractor.QuantizationParams
com scale
e zero_point
.
Parâmetros
régua | O valor da escala usado na quantização. |
---|---|
Zero pontos | O valor do ponto zero usado na quantização. |
Métodos Públicos
public float getScale ()
Retorna o valor da escala.
int público getZeroPoint ()
Retorna o valor do ponto zero.