Выполните гибридную квантованную точку из плавающего тензора `lhs` и квантованного тензора `rhs`.
Учитывая число с плавающей запятой `lhs` и квантованное `rhs`, внутренне выполняет квантование для `lhs`, а затем выполняет квантование точки для квантованных lhs и `rhs`. Внутреннее квантование по левому краю — это квантование до qint8, динамического диапазона, для каждого пакета (по оси вдоль оси 0), асимметричное и не узкого диапазона (диапазон [-128, 127]). `lhs` и `rhs` должны быть 2D-тензорами, а lhs.dim_size(1) должен соответствовать rhs.dim_size(0). `rhs` должен быть квантованным тензором, где его значение данных квантуется по формуле: quantized_data = clip(original_data/scale + нулевая_точка, quantization_min_val, quantization_max_val).
Вложенные классы
| сорт | UniformQuantizedDotHybrid.Options | Дополнительные атрибуты для UniformQuantizedDotHybrid | |
Публичные методы
| Выход <В> | какВывод () Возвращает символический дескриптор тензора. |
| static <V расширяет число, T расширяет число, U> UniformQuantizedDotHybrid <V> | create ( Область видимости , Операнд <T> lhs, Операнд <U> rhs, Операнд <Float> rhsScales, Операнд <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Опции... опции) Фабричный метод для создания класса, обертывающего новую операцию UniformQuantizedDotHybrid. |
| Выход <В> | выход () Выходной 2D-тензор Tout, форма которого равна (lhs.dim_size(0), rhs.dim_size(1)). |
| статический UniformQuantizedDotHybrid.Options | rhsQuantizationAxis (длинная rhsQuantizationAxis) |
Унаследованные методы
Публичные методы
общедоступный вывод <V> asOutput ()
Возвращает символический дескриптор тензора.
Входные данные для операций TensorFlow являются выходными данными другой операции TensorFlow. Этот метод используется для получения символического дескриптора, который представляет собой вычисление входных данных.
public static UniformQuantizedDotHybrid <V> create ( Область видимости , Операнд <T> lhs, Операнд <U> rhs, Операнд <Float> rhsScale, Операнд <Integer> rhsZeroPoints, Класс <V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Options.. . параметры)
Фабричный метод для создания класса, обертывающего новую операцию UniformQuantizedDotHybrid.
Параметры
| объем | текущий объем |
|---|---|
| левая сторона | Должен быть двумерным тензором Tlhs. |
| правый риск | Должен быть 2D-тензором Trhs. |
| rhsВесы | Значения с плавающей запятой, используемые в качестве масштаба при квантовании исходных данных, которые представляет rhs. Должен быть скалярным тензором (потензорное квантование) или одномерным тензором размера (rhs.dim_size(1)) (поканальное квантование). |
| rhsZeroPoints | Значения int32, используемые в качестве нулевой точки при квантовании исходных данных, которые представляет rhs. То же состояние формы, что и у rhs_scales. |
| Реклама | Тип вывода Тензор. |
| rhsQuantizationMinVal | Минимальное значение квантованных данных, хранящихся в rhs. Например, если Trhs равен qint8, он должен быть установлен на -127, если квантовано в узком диапазоне, или -128, если нет. |
| rhsQuantizationMaxVal | Максимальное значение квантованных данных, хранящихся в rhs. Например, если Trhs равен qint8, ему необходимо установить значение 127. |
| параметры | содержит значения необязательных атрибутов |
Возврат
- новый экземпляр UniformQuantizedDotHybrid
публичный вывод <V> вывод ()
Выходной 2D-тензор Tout, форма которого равна (lhs.dim_size(0), rhs.dim_size(1)). Выходные данные — это сами исходные выходные данные (не квантованные).
общедоступный статический UniformQuantizedDotHybrid.Options rhsQuantizationAxis (Long rhsQuantizationAxis)
Параметры
| rhsQuantizationAxis | Указывает индекс размерности тензора, в котором к срезам вдоль этого измерения применяется поосевое квантование. Если установлено значение -1 (по умолчанию), это указывает на потензорное квантование. Для dot op rhs поддерживается только потензорное квантование или поканальное квантование по размерности 1. Таким образом, этому атрибуту должно быть присвоено значение -1 или 1. Другие значения отклоняются. |
|---|