тензорный поток:: опс:: Деквантовать

#include <array_ops.h>

Деквантуйте «входной» тензор в число с плавающей запятой или в bfloat16 Tensor .

Краткое содержание

[min_range, max_range] — скалярные числа с плавающей запятой, которые определяют диапазон выходных данных. Атрибут mode определяет, какие именно вычисления используются для преобразования значений с плавающей запятой в их квантованные эквиваленты.

В режиме «MIN_COMBINED» каждое значение тензора будет подвергаться следующим изменениям:

if T == qint8: in[i] += (range(T) + 1)/ 2.0
out[i] = min_range + (in[i]* (max_range - min_range) / range(T))

здесь range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min()

Пример режима MIN_COMBINED

Если входные данные поступают от QuantizedRelu6 , тип выходных данных — quint8 (диапазон 0–255), но возможный диапазон QuantizedRelu6 — 0–6. Таким образом, значения min_range и max_range равны 0,0 и 6,0. Деквантизация на quint8 возьмет каждое значение, приведет к плавающему числу и умножит на 6/255. Обратите внимание, что если квантованным типом является qint8, операция дополнительно добавит каждое значение на 128 перед приведением.

Если режим «MIN_FIRST», то используется такой подход:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast(input) - lowest_quantized;
result = range_min + ((input - numeric_limits::min()) * range_scale)

Если выбран режим SCALED , деквантование выполняется путем умножения каждого входного значения на коэффициент масштабирования. (Таким образом, ввод 0 всегда соответствует 0,0).

Scaling_factor определяется из min_range , max_range и narrow_range способом, совместимым с QuantizeAndDequantize{V2|V3} и QuantizeV2 , с использованием следующего алгоритма:

  

  

    
  const int min_expected_T = std::numeric_limits::min() +
    (narrow_range ? 1 : 0);
  const int max_expected_T = std::numeric_limits::max();
  const float max_expected_T = std::numeric_limits::max();
  const float scale_factor =
    (std::numeric_limits::min() == 0) ? (max_range / max_expected_T)
                                         : std::max(min_range / min_expected_T,
                                                    max_range / max_expected_T);
 Аргументы:
 область: объект области.
 min_range: минимальное скалярное значение, которое может быть получено для ввода.
 max_range: максимальное скалярное значение, которое может быть получено для ввода.
 Необязательные атрибуты (см. Attrs ):
 dtype: Тип выходного тензора. В настоящее время Dequantize поддерживает float и bfloat16. Если «dtype» равен «bfloat16», он поддерживает только режим «MIN_COMBINED».
 Возврат:
 Output : выходной тензор. 
 Конструкторы и деструкторы
 Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range)
 Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range, const Dequantize::Attrs & attrs)
 
 Публичные атрибуты
 operation
 Operation
 output
 :: tensorflow::Output
 
 Общественные функции
 node () const
 ::tensorflow::Node *
 operator::tensorflow::Input () const
 operator::tensorflow::Output () const
 
Публичные статические функции
 Axis (int64 x)
 Attrs
 Dtype (DataType x)
 Attrs
 Mode (StringPiece x)
 Attrs
 NarrowRange (bool x)
 Attrs
 
 Структуры
 tensorflow:: ops:: Деквантизация:: Attrs
 Дополнительные установщики атрибутов для Dequantize .
 Публичные атрибуты 
 операция 
Operation operation
 выход 
::tensorflow::Output output
 Общественные функции 
 Деквантовать 
 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range
)
 Деквантовать 
 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  const Dequantize::Attrs & attrs
)
 узел 
::tensorflow::Node * node() const 
 оператор::tensorflow::Input 
 operator::tensorflow::Input() const 
 оператор::tensorflow::Выход 
 operator::tensorflow::Output() const 
 Публичные статические функции 
 Ось 
Attrs Axis(
  int64 x
)
 Дтип 
Attrs Dtype(
  DataType x
)
 Режим 
Attrs Mode(
  StringPiece x
)
 Узкий диапазон 
Attrs NarrowRange(
  bool x
)