Quantiza um TensorBuffer
com determinado zeroPoint
e scale
.
Nota: QuantizeOp
não converte a saída para UINT8, mas apenas executa a matemática de quantização sobre a entrada. O tipo de dados do tensor de saída é sempre FLOAT32
, exceto que o Op é efetivamente um Op de identidade (neste caso, o tensor de saída é a mesma instância da entrada). Para conectar-se ao modelo quantizado, provavelmente será necessário um CastOp
.
Se zeroPoint
e scale
forem 0, o QuantizeOp
será ignorado, o que equivale a definir zeroPoint
como 0 e scale
como 1. Isso pode ser útil ao passar os parâmetros de quantização que são extraídos diretamente do flatbuffer do modelo TFLite. Se o tensor não for quantizado, zeroPoint
e scale
serão lidos como 0.
Construtores Públicos
QuantizeOp (ponto zero flutuante, escala flutuante) |
Métodos herdados
Construtores Públicos
QuantizeOp público (float zeroPoint, escala flutuante)
Parâmetros
Zero pontos | |
---|---|
escala |