Realice una multiplicación de matriz cuantificada de `a` por la matriz` b` con sesgo de adición y relu y recantizar la fusión.
Las entradas deben ser matrices bidimensionales y vector de sesgo 1D. Y la dimensión interna de `a` (después de ser transpuesta si` transpose_a` no es cero) debe coincidir con la dimensión externa de `b` (después de ser transpuesta si` transposed_b` no es cero). Luego, difunda la operación de suma con valores de sesgo en el resultado de la multiplicación de matrices. El tamaño del sesgo debe coincidir con la dimensión interna de "b". Luego, realice la activación de relu para obtener un resultado no negativo. Luego, vuelva a cuantificar la operación para obtener el resultado final de uint8.
Clases anidadas
clase | QuantizedMatMulWithBiasAndReluAndRequantize.Options | Atributos opcionales para QuantizedMatMulWithBiasAndReluAndRequantize |
Métodos públicos
estático <W, T, U, V> QuantizedMatMulWithBiasAndReluAndRequantize <W> | crear ( Alcance alcance, operando <T> a, operando <U> b, operando <V> sesgo, operando <Float> Mina, operando <Float> MAXA, operando <Float> Minb, operando <Float> maxb, operando <Float > minFreezedOutput, operando <Float> maxFreezedOutput, Clase <W> TOutput, opciones ... opciones) Método de fábrica para crear una clase que envuelva una nueva operación QuantizedMatMulWithBiasAndReluAndRequantize. |
static QuantizedMatMulWithBiasAndReluAndRequantize.Options | inputQuantMode (Cadena inputQuantMode) |
Salida <Float> | maxOut () El valor flotante que representa el valor de salida cuantificado más alto. |
Salida <Float> | minOut () El valor flotante que representa el valor de salida cuantificado más bajo. |
Salida <W> | fuera () |
static QuantizedMatMulWithBiasAndReluAndRequantize.Options | transposeA ( transposeA booleana) |
static QuantizedMatMulWithBiasAndReluAndRequantize.Options | transposeB ( transposeB booleano) |
Métodos heredados
Métodos públicos
public static QuantizedMatMulWithBiasAndReluAndRequantize <W> crear ( Alcance alcance, operando <T> a, operando <U> b, operando <V> sesgo, operando <Float> Mina, operando <Float> MAXA, operando <Float> Minb, operando <Float > maxb, operando <Float> minFreezedOutput, operando <Float> maxFreezedOutput, Clase <W> TOutput, opciones ... opciones)
Método de fábrica para crear una clase que envuelva una nueva operación QuantizedMatMulWithBiasAndReluAndRequantize.
Parámetros
alcance | alcance actual |
---|---|
a | Una matriz para multiplicar. Debe ser un tensor bidimensional de tipo `quint8`. |
B | Una matriz a multiplicar y debe ser un tensor bidimensional de tipo `qint8`. |
parcialidad | Un tensor de sesgo 1D con tamaño que coincide con la dimensión interna de `b` (después de ser transpuesto si` transposed_b` es distinto de cero). |
minA | El valor flotante que representa el valor "a" cuantificado más bajo. |
maxA | El valor flotante que representa el valor "a" cuantificado más alto. |
minB | El valor flotante que representa el valor "b" cuantificado más bajo. |
maxB | El valor flotante que representa el valor "b" cuantificado más alto. |
minFreezedOutput | El valor flotante que el valor de salida cuantificado más alto después de recantizar. |
opciones | lleva valores de atributos opcionales |
Devoluciones
- una nueva instancia de QuantizedMatMulWithBiasAndReluAndRequantize
public static QuantizedMatMulWithBiasAndReluAndRequantize.Options inputQuantMode (String inputQuantMode)
Parámetros
inputQuantMode | Modo de cuantificación de datos de entrada. MIN_FIRST (predeterminado) o SCALED. |
---|
Salida pública <Float> maxOut ()
El valor flotante que representa el valor de salida cuantificado más alto.
Salida pública <Float> minOut ()
El valor flotante que representa el valor de salida cuantificado más bajo.
public static QuantizedMatMulWithBiasAndReluAndRequantize.Options transposeA (Boolean transposeA)
Parámetros
transposeA | Si es verdadero, se transpone `a` antes de la multiplicación. |
---|
public static QuantizedMatMulWithBiasAndReluAndRequantize.Options transposeB (Boolean transposeB)
Parámetros
transposeB | Si es verdadero, se transpone `b` antes de la multiplicación. |
---|