Фальшивое квантование тензора «входов» типа float с помощью поканальных чисел с плавающей запятой.
Поддельное квантование тензора `inputs` типа float для каждого канала и одной из форм: `[d]`, `[b, d]` `[b, h, w, d]` через поканальные числа с плавающей запятой ` min` и `max` формы `[d]` в тензор `выходов` той же формы, что и `входы`.
Атрибуты
- `[мин; max]` определяют диапазон ограничения для входных данных.
- Значения `inputs` квантуются в диапазон квантования ( `[0; 2^num_bits - 1]`, когда `narrow_range` имеет значение false, и `[1; 2^num_bits - 1]`, когда оно истинно), а затем деквантуются. и выводить как числа с плавающей запятой в `[min; max]` интервал.
- `num_bits` — разрядность квантования; от 2 до 16 включительно.
- Если `0 < min < max`: `min_adj = 0` и `max_adj = max - min`.
- Если `min < max < 0`: `min_adj = min - max` и `max_adj = 0`.
- Если `min <= 0 <= max`: `scale = (max - min) / (2^num_bits - 1) `, `min_adj = масштаб * round(min/scale)` и `max_adj = max + min_adj - min `.
Вложенные классы
| сорт | FakeQuantWithMinMaxVarsPerChannel.Options | Дополнительные атрибуты для FakeQuantWithMinMaxVarsPerChannel | |
Константы
| Нить | OP_NAME | Название этой операции, известное основному движку TensorFlow. |
Публичные методы
| Вывод <TFloat32> | какВывод () Возвращает символический дескриптор тензора. |
| статический FakeQuantWithMinMaxVarsPerChannel | |
| статический FakeQuantWithMinMaxVarsPerChannel.Options | узкий диапазон (логическое значение узкого диапазона) |
| статический FakeQuantWithMinMaxVarsPerChannel.Options | numBits (длинное число битов) |
| Вывод <TFloat32> | выходы () |
Унаследованные методы
Константы
общедоступная статическая финальная строка OP_NAME
Название этой операции, известное основному движку TensorFlow.
Публичные методы
публичный вывод <TFloat32> asOutput ()
Возвращает символический дескриптор тензора.
Входные данные для операций TensorFlow являются выходными данными другой операции TensorFlow. Этот метод используется для получения символического дескриптора, который представляет собой вычисление входных данных.
public static FakeQuantWithMinMaxVarsPerChannel create (область действия , операнд < TFloat32 > входы, операнд < TFloat32 > мин, операнд < TFloat32 > макс, параметры... параметры)
Фабричный метод для создания класса, обертывающего новую операцию FakeQuantWithMinMaxVarsPerChannel.
Параметры
| объем | текущий объем |
|---|---|
| параметры | содержит значения необязательных атрибутов |
Возврат
- новый экземпляр FakeQuantWithMinMaxVarsPerChannel