tensorflow::ops::QuantizeV2

#include <array_ops.h>

Quantizar o tensor de 'entrada' do tipo float para um tensor de 'saída' do tipo 'T'.

Resumo

[min_range, max_range] são valores escalares de ponto flutuante que especificam o intervalo para os dados de entrada. O atributo 'mode' controla exatamente quais cálculos são usados ​​para converter os valores de ponto flutuante em seus equivalentes quantizados. O atributo 'round_mode' controla qual algoritmo de desempate de arredondamento é usado ao arredondar os valores de ponto flutuante para seus equivalentes quantizados.

No modo 'MIN_COMBINED', cada valor do tensor passará pelo seguinte processo: 

out[i] = (in[i] - min_range) * range(T) / (max_range - min_range)
if T == qint8: out[i] -= (range(T) + 1) / 2.0

aqui range(T) = numeric_limits ::max() - numeric_limits ::min()

Exemplo de modo MIN_COMBINED

Suponha que a entrada seja do tipo float e tenha um intervalo possível de [0.0, 6.0] e o tipo de saída seja quint8 ([0, 255]). Os valores min_range e max_range devem ser especificados como 0.0 e 6.0, respectivamente. A quantização de float para quint8 multiplicará cada valor da entrada por 255/6 e converterá para quint8.

Se o tipo de saída for qint8 ([-128, 127]), a operação subtrairá adicionalmente cada valor por 128 antes da conversão, para que o intervalo de valores esteja alinhado com o intervalo de qint8.

Se o modo for 'MIN_FIRST', então esta abordagem será utilizada: 

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = num_discrete_values / range
quantized = round(input * range_scale) - round(range_min * range_scale) +
  numeric_limits::min()
quantized = max(quantized, numeric_limits::min())
quantized = min(quantized, numeric_limits::max())

A principal diferença entre este método e o MIN_COMBINED é que, no MIN_COMBINED, o intervalo mínimo é arredondado primeiro, antes de ser subtraído do valor arredondado. Com o MIN_COMBINED, um pequeno viés é introduzido, pois iterações repetidas de quantização e desquantização geram um erro cada vez maior.

Exemplo de modo ESCALADO

O modo SCALED corresponde à abordagem de quantização usada em QuantizeAndDequantize{V2|V3} .

Se o modo for SCALED , não usamos toda a gama do tipo de saída, optando por omitir o valor mais baixo possível para simetria (por exemplo, a gama de saída é de -127 a 127, e não de -128 a 127 para quantização de 8 bits com sinal), de modo que 0,0 seja mapeado para 0.

Primeiro, encontramos o intervalo de valores em nosso tensor. O intervalo que usamos está sempre centrado em 0, então encontramos m tal que 

  m = max(abs(input_min), abs(input_max))

Nosso intervalo de tensores de entrada é então [-m, m] .

Em seguida, escolhemos nossos intervalos de quantização de ponto fixo, [min_fixed, max_fixed] . Se T for um valor com sinal, este é 

  num_bits = sizeof(T) * 8
  [min_fixed, max_fixed] =
      [-(1 << (num_bits - 1) - 1), (1 << (num_bits - 1)) - 1]

Caso contrário, se T não tiver sinal, o intervalo de ponto fixo será 

  [min_fixed, max_fixed] = [0, (1 << num_bits) - 1]

A partir disso, calculamos nosso fator de escala, s: 

  s = (max_fixed - min_fixed) / (2 * m)

Agora podemos quantizar os elementos do nosso tensor: 

result = round(input * s)

Um ponto importante a observar é que o operador pode optar por ajustar ligeiramente os valores mínimo e máximo solicitados durante o processo de quantização. Portanto, você deve sempre usar as portas de saída como intervalo para cálculos subsequentes. Por exemplo, se os valores mínimo e máximo solicitados forem próximos, eles serão separados por um pequeno valor de épsilon para evitar a criação de buffers quantizados malformados. Caso contrário, você pode acabar com buffers onde todos os valores quantizados correspondem ao mesmo valor float, o que causa problemas para operações que precisam realizar cálculos adicionais com eles.

Argumentos:

  • escopo: Um objeto de escopo
  • min_range: O menor valor escalar possível para a entrada.
  • max_range: O maior valor escalar possível para a entrada.

Devoluções:

  • Output : Os dados quantizados produzidos a partir da entrada de ponto flutuante.
  • Output output_min: O valor escalar mínimo real usado para a saída.
  • Output output_max: O valor escalar máximo real usado para a saída.

Construtores e Destrutores

QuantizeV2 (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range, DataType T)
QuantizeV2 (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range, DataType T, const QuantizeV2::Attrs & attrs)

Atributos públicos

operation
output
output_max
output_min

Funções estáticas públicas

Mode (StringPiece x)
RoundMode (StringPiece x)

Estruturas

tensorflow::ops::QuantizeV2::Attrs

Definidores de atributos opcionais para QuantizeV2 .

Atributos públicos

operação 

Operation operation

saída 

::tensorflow::Output output

saída_máxima 

::tensorflow::Output output_max

saída_mínima 

::tensorflow::Output output_min

Funções públicas

QuantizarV2 

 QuantizeV2(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  DataType T
)

QuantizarV2 

 QuantizeV2(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  DataType T,
  const QuantizeV2::Attrs & attrs
)

Funções estáticas públicas

Modo 

Attrs Mode(
  StringPiece x
)

Modo redondo 

Attrs RoundMode(
  StringPiece x
)