przepływ tensorowy:: ops:: Dekwantyzacja

#include <array_ops.h>

Dekwantyzuj tensor „wejściowy” do typu float lub bfloat16 Tensor .

Streszczenie

[min_range, max_range] to skalarne liczby zmiennoprzecinkowe, które określają zakres danych wyjściowych. Atrybut „mode” dokładnie kontroluje, które obliczenia są używane do konwersji wartości zmiennoprzecinkowych na ich skwantowane odpowiedniki.

W trybie „MIN_COMBINED” każda wartość tensora zostanie poddana następującym czynnościom:

if T == qint8: in[i] += (range(T) + 1)/ 2.0
out[i] = min_range + (in[i]* (max_range - min_range) / range(T))

tutaj range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min()

Przykład trybu MIN_COMBINED

Jeśli dane wejściowe pochodzą z QuantizedRelu6 , typem wyjścia jest quint8 (zakres 0-255), ale możliwy zakres QuantizedRelu6 to 0-6. Wartości min_range i max_range wynoszą zatem 0,0 i 6,0. Dekwantyzacja na kwincie8 pobierze każdą wartość, rzutuje na liczbę zmiennoprzecinkową i pomnoży przez 6/255. Należy zauważyć, że jeśli typem kwantyzacji jest qint8, operacja dodatkowo doda każdą wartość o 128 przed rzutowaniem.

Jeśli tryb to „MIN_FIRST”, stosowane jest następujące podejście:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast(input) - lowest_quantized;
result = range_min + ((input - numeric_limits::min()) * range_scale)

Jeśli tryb to SCALED , dekwantyzacja jest wykonywana poprzez pomnożenie każdej wartości wejściowej przez współczynnik skalowania. (Zatem wartość wejściowa 0 zawsze odpowiada wartości 0,0).

Współczynnik skalowania jest określany na podstawie min_range , max_range i narrow_range w sposób zgodny z QuantizeAndDequantize{V2|V3} i QuantizeV2 przy użyciu następującego algorytmu:

  

  

    
  const int min_expected_T = std::numeric_limits::min() +
    (narrow_range ? 1 : 0);
  const int max_expected_T = std::numeric_limits::max();
  const float max_expected_T = std::numeric_limits::max();
 
  const float scale_factor =
    (std::numeric_limits::min() == 0) ? (max_range / max_expected_T)
                                         : std::max(min_range / min_expected_T,
                                                    max_range / max_expected_T);
 Argumenty:
 zakres: Obiekt Scope
 min_range: Minimalna wartość skalarna, jaka może zostać wygenerowana dla wejścia.
 max_range: Maksymalna wartość skalarna, jaką można uzyskać dla wejścia.
 Opcjonalne atrybuty (patrz Attrs ):
 dtype: Typ tensora wyjściowego. Obecnie Dekwantyzacja obsługuje float i bfloat16. Jeśli „dtype” to „bfloat16”, obsługuje tylko tryb „MIN_COMBINED”.
 Zwroty:
 Output : Tensor wyjściowy. 
 Konstruktory i destruktory
 Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range)
 Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range, const Dequantize::Attrs & attrs)
 
 Atrybuty publiczne
 operation
 Operation
 output
 :: tensorflow::Output
 
 Funkcje publiczne
 node () const
 ::tensorflow::Node *
 operator::tensorflow::Input () const
 operator::tensorflow::Output () const
 
Publiczne funkcje statyczne
 Axis (int64 x)
 Attrs
 Dtype (DataType x)
 Attrs
 Mode (StringPiece x)
 Attrs
 NarrowRange (bool x)
 Attrs
 
 Struktury
 tensorflow:: ops:: Dekwantyzacja:: Atrybuty
 Opcjonalne ustawiacze atrybutów dla Dequantize .
 Atrybuty publiczne 
 działanie 
 
Operation operation
 wyjście 
 
::tensorflow::Output output
 Funkcje publiczne 
 Dekwantyzacja 
 
 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range
)
 Dekwantyzacja 
 
 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  const Dequantize::Attrs & attrs
)
 węzeł 
 
::tensorflow::Node * node() const 
 operator::tensorflow::Wejście 
 
 operator::tensorflow::Input() const 
 operator::tensorflow::Wyjście 
 
 operator::tensorflow::Output() const 
 Publiczne funkcje statyczne 
 Oś 
 
Attrs Axis(
  int64 x
)
 Typ D 
 
Attrs Dtype(
  DataType x
)
 Tryb 
 
Attrs Mode(
  StringPiece x
)
 WąskiZakres
 
Attrs NarrowRange(
  bool x
)