Cuantifica un TensorBuffer
con determinado zeroPoint
y la scale
.
Nota: QuantizeOp
no echa de salida a UINT8, pero sólo realiza los cálculos de cuantificación en la parte superior de la entrada. El tipo de datos de tensor salida es siempre FLOAT32
excepto que el Op es efectivamente una identidad Op (en este caso, el tensor de salida es la misma instancia que la entrada). Para conectar con el modelo cuantificado, un CastOp
Probablemente se necesite.
Si tanto zeroPoint
y scale
son 0, la QuantizeOp
será anulada, que es equivalente a establecer zeroPoint
a 0 y scale
a 1. Esto puede ser útil cuando se pasa en los parámetros de cuantificación que se extraen directamente del modelo TFLite flatbuffer. Si el tensor no se cuantifica, tanto en zeroPoint
y la scale
serán leídos como 0.
Constructores públicos
QuantizeOp (float punto cero, escala float) |
Métodos heredados
Constructores públicos
QuantizeOp pública (float punto cero, la escala de flotación)
Parámetros
Punto cero | |
---|---|
escala |