Quantifica a TensorBuffer
com determinado zeroPoint
e scale
.
Nota: QuantizeOp
não lança saída para UINT8, mas apenas executa a matemática quantização no topo de entrada. O tipo de dados de tensor de saída é sempre FLOAT32
excepto que o Op é efectivamente uma identidade Op (neste caso, o tensor de saída é o mesmo como o exemplo de entrada). Para conectar-se com o modelo quantized, um CastOp
é provavelmente necessário.
Se ambos zeroPoint
e scale
são 0, o QuantizeOp
vai ser contornado, o que é equivalente à configuração zeroPoint
para 0 e scale
para 1. Isto pode ser útil quando se passa nos parâmetros de quantização que são extraídos directamente do modelo TFLite flatbuffer. Se o tensor não é quantizado, tanto zeroPoint
e scale
será lido como 0.
Construtores Públicos
QuantizeOp (flutuador ponto zero, escala flutuador) |
Métodos herdados
Construtores Públicos
pública QuantizeOp (float ponto zero, escala float)
Parâmetros
Zero pontos | |
---|---|
escala |