UniformQuantizedDotHybrid

classe final pública UniformQuantizedDotHybrid

Execute o ponto quantizado híbrido do tensor flutuante `lhs` e do tensor quantizado `rhs`.

Dado float `lhs` e `rhs` quantizado, executa internamente a quantização em `lhs` e, em seguida, executa o ponto quantizado em lhs e `rhs` quantizados. A quantização interna em `lhs` é uma quantização para qint8, faixa dinâmica, por lote (por eixo ao longo do eixo 0), assimétrica e não faixa estreita (a faixa é [-128, 127]). `lhs` e `rhs` devem ser tensores 2D e lhs.dim_size(1) deve corresponder a rhs.dim_size(0). `rhs` deve ser quantizado Tensor, onde seu valor de dados é quantizado usando a fórmula: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val).

Classes aninhadas

classe UniformQuantizedDotHybrid.Options Atributos opcionais para UniformQuantizedDotHybrid

Métodos públicos

Saída <V>
comoSaída ()
Retorna o identificador simbólico de um tensor.
estático <V estende Número, T estende Número, U> UniformQuantizedDotHybrid <V>
create ( Escopo do escopo, Operando <T> lhs, Operando <U> rhs, Operando <Float> rhsScales, Operando <Integer> rhsZeroPoints, Classe<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Options... options)
Método de fábrica para criar uma classe que envolve uma nova operação UniformQuantizedDotHybrid.
Saída <V>
saída ()
O Tensor 2D de saída de Tout, cuja forma é (lhs.dim_size(0), rhs.dim_size(1)).
static UniformQuantizedDotHybrid.Options
rhsQuantizationAxis (Long rhsQuantizationAxis)

Métodos Herdados

Métodos públicos

Public Output <V> asOutput ()

Retorna o identificador simbólico de um tensor.

As entradas para operações do TensorFlow são saídas de outra operação do TensorFlow. Este método é usado para obter um identificador simbólico que representa o cálculo da entrada.

public static UniformQuantizedDotHybrid <V> create ( Escopo do escopo, Operando <T> lhs, Operando <U> rhs, Operando <Float> rhsScales, Operando <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Options.. . opções)

Método de fábrica para criar uma classe que envolve uma nova operação UniformQuantizedDotHybrid.

Parâmetros
alcance escopo atual
lhs Deve ser um tensor 2D de Tlhs.
direito Deve ser um tensor 2D de Trhs.
rhs Scales O(s) valor(es) flutuante(s) usado(s) como escala ao quantificar os dados originais que rhs representa. Deve ser um tensor escalar (quantização por tensor) ou tensor 1D de tamanho (rhs.dim_size(1),) (quantização por canal).
rhsZeroPoints Os valores int32 usados ​​como zero_point ao quantificar os dados originais que rhs representa. Mesma condição de forma que rhs_scales.
Tout O tipo de Tensor de saída.
rhsQuantizationMinVal O valor mínimo dos dados quantizados armazenados em rhs. Por exemplo, se Trhs for qint8, deve ser definido como -127 se for quantizado em faixa estreita ou -128 se não for.
rhsQuantizationMaxVal O valor máximo dos dados quantizados armazenados em rhs. Por exemplo, se Trhs for qint8, isso deve ser definido como 127.
opções carrega valores de atributos opcionais
Devoluções
  • uma nova instância de UniformQuantizedDotHybrid

Saída pública <V> saída ()

O Tensor 2D de saída de Tout, cuja forma é (lhs.dim_size(0), rhs.dim_size(1)). Os dados de saída são os próprios dados de saída originais (não quantizados).

public static UniformQuantizedDotHybrid.Options rhsQuantizationAxis (Long rhsQuantizationAxis)

Parâmetros
rhsQuantizationAxis Indica o índice de dimensão do tensor onde a quantização por eixo é aplicada para as fatias ao longo dessa dimensão. Se definido como -1 (padrão), indica quantização por tensor. Para dot op rhs, apenas a quantização por tensor ou quantização por canal ao longo da dimensão 1 é suportada. Assim, este atributo deve ser definido como -1 ou 1. Outros valores são rejeitados.