przepływ tensorowy:: ops:: Dekwantyzacja

#include <array_ops.h>

Dekwantyzuj tensor „wejściowy” do typu float lub bfloat16 Tensor .

Streszczenie

[min_range, max_range] to skalarne liczby zmiennoprzecinkowe, które określają zakres danych wyjściowych. Atrybut „mode” dokładnie kontroluje, które obliczenia są używane do konwersji wartości zmiennoprzecinkowych na ich skwantowane odpowiedniki.

W trybie „MIN_COMBINED” każda wartość tensora zostanie poddana następującym czynnościom:

if T == qint8: in[i] += (range(T) + 1)/ 2.0
out[i] = min_range + (in[i]* (max_range - min_range) / range(T))
tutaj range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min()

Przykład trybu MIN_COMBINED

Jeśli dane wejściowe pochodzą z QuantizedRelu6 , typem wyjścia jest quint8 (zakres 0-255), ale możliwy zakres QuantizedRelu6 to 0-6. Wartości min_range i max_range wynoszą zatem 0,0 i 6,0. Dekwantyzacja na kwincie8 pobierze każdą wartość, rzutuje na liczbę zmiennoprzecinkową i pomnoży przez 6/255. Należy zauważyć, że jeśli typem kwantyzacji jest qint8, operacja dodatkowo doda każdą wartość o 128 przed rzutowaniem.

Jeśli tryb to „MIN_FIRST”, stosowane jest następujące podejście:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast(input) - lowest_quantized;
result = range_min + ((input - numeric_limits::min()) * range_scale)

Jeśli tryb to SCALED , dekwantyzacja jest wykonywana poprzez pomnożenie każdej wartości wejściowej przez współczynnik skalowania. (Zatem wartość wejściowa 0 zawsze odpowiada wartości 0,0).

Współczynnik skalowania jest określany na podstawie min_range , max_range i narrow_range w sposób zgodny z QuantizeAndDequantize{V2|V3} i QuantizeV2 przy użyciu następującego algorytmu:

  

  const int min_expected_T = std::numeric_limits::min() +
    (narrow_range ? 1 : 0);
  const int max_expected_T = std::numeric_limits::max();
  const float max_expected_T = std::numeric_limits::max();

  const float scale_factor =
    (std::numeric_limits::min() == 0) ? (max_range / max_expected_T)
                                         : std::max(min_range / min_expected_T,
                                                    max_range / max_expected_T);

Argumenty:

  • zakres: Obiekt Scope
  • min_range: Minimalna wartość skalarna, jaka może zostać wygenerowana dla wejścia.
  • max_range: Maksymalna wartość skalarna, jaką można uzyskać dla wejścia.

Opcjonalne atrybuty (patrz Attrs ):

  • dtype: Typ tensora wyjściowego. Obecnie Dekwantyzacja obsługuje float i bfloat16. Jeśli „dtype” to „bfloat16”, obsługuje tylko tryb „MIN_COMBINED”.

Zwroty:

Konstruktory i destruktory

Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range)
Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range, const Dequantize::Attrs & attrs)

Atrybuty publiczne

operation
output

Funkcje publiczne

node () const
::tensorflow::Node *
operator::tensorflow::Input () const
operator::tensorflow::Output () const

Publiczne funkcje statyczne

Axis (int64 x)
Dtype (DataType x)
Mode (StringPiece x)
NarrowRange (bool x)

Struktury

tensorflow:: ops:: Dekwantyzacja:: Atrybuty

Opcjonalne ustawiacze atrybutów dla Dequantize .

Atrybuty publiczne

operacja

Operation operation

wyjście

::tensorflow::Output output

Funkcje publiczne

Dekwantyzacja

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range
)

Dekwantyzacja

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  const Dequantize::Attrs & attrs
)

węzeł

::tensorflow::Node * node() const 

operator::tensorflow::Wejście

 operator::tensorflow::Input() const 

operator::tensorflow::Wyjście

 operator::tensorflow::Output() const 

Publiczne funkcje statyczne

Attrs Axis(
  int64 x
)

Typ D

Attrs Dtype(
  DataType x
)

Tryb

Attrs Mode(
  StringPiece x
)

Wąski zakres

Attrs NarrowRange(
  bool x
)