Cuantiza un TensorBuffer con zeroPoint y scale dados.
Nota: QuantizeOp no convierte la salida a UINT8, sino que solo realiza los cálculos de cuantificación sobre la entrada. El tipo de datos del tensor de salida es siempre FLOAT32 excepto que Op es efectivamente una Op de identidad (en este caso, el tensor de salida es la misma instancia que la entrada). Para conectarse con el modelo cuantificado, probablemente se necesite un CastOp .
Si tanto zeroPoint como scale son 0, se omitirá QuantizeOp , lo que equivale a establecer zeroPoint en 0 y scale en 1. Esto puede resultar útil al pasar los parámetros de cuantificación que se extraen directamente del flatbuffer del modelo TFLite. Si el tensor no está cuantificado, tanto zeroPoint como scale se leerán como 0.
Constructores Públicos
QuantizeOp (punto cero flotante, escala flotante) |
Métodos heredados
Constructores Públicos
QuantizeOp público (punto cero flotante, escala flotante)
Parámetros
| Punto cero | |
|---|---|
| escala |