Недетерминированно группирует все входные тензоры.
Когда множество экземпляров этой операции запускаются одновременно с одним и тем же контейнером/shared_name на одном и том же устройстве, некоторые будут выводить тензоры нулевой формы, а другие будут выводить тензоры размером до max_batch_size.
Все тензоры в in_tensors объединяются вместе (поэтому, например, метки и объекты должны быть объединены в пакет с помощью одного экземпляра этой операции.
Каждый вызов пакета генерирует скаляр `id`, который будет использоваться для идентификации этого конкретного вызова при выполнении unbatch или его градиента.
Каждая операция, которая генерирует непустой пакет, также будет генерировать непустой тензор пакетного_индекса, который представляет собой матрицу [K, 3], где каждая строка содержит идентификатор вызова, начало и длину элементов каждого набора тензоров, присутствующих в пакетные_тензоры.
Пакетные тензоры объединяются по первому измерению, и все тензоры в in_tensors должны иметь первое измерение одинакового размера.
in_tensors: тензоры для пакетной обработки. num_batch_threads: количество потоков планирования для обработки пакетов работы. Определяет количество пакетов, обрабатываемых параллельно. max_batch_size: размеры пакетов никогда не будут больше этого значения. Batch_timeout_micros: Максимальное количество микросекунд ожидания перед выводом неполного пакета. allow_batch_sizes: необязательный список разрешенных размеров пакетов. Если оставить пустым, ничего не делает. В противном случае предоставляется список размеров пакетов, в результате чего оператор дополняет пакеты до одного из этих размеров. Записи должны увеличиваться монотонно, а конечная запись должна быть равна max_batch_size. grad_timeout_micros: тайм-аут, используемый для градиента. См. раздел «Отключить пакетирование». Batched_tensors: либо пустые тензоры, либо пакет объединенных тензоров. пакетный_индекс: если out_tensors не пусто, имеется информация для его инвертирования. контейнер: управляет областью совместного использования этого пакета. id: всегда содержит скаляр с уникальным идентификатором для этого вызова Batch. shared_name: одновременное выполнение экземпляров пакета на одном устройстве с одним и тем же контейнером и общим_имя будет группировать их элементы вместе. Если оставить пустым, имя операции будет использоваться в качестве общего имени. T: типы тензоров, подлежащих пакетной обработке.
Вложенные классы
| сорт | Пакетные.Параметры | Дополнительные атрибуты для Batch | |
Публичные методы
| статические Batch.Options | разрешенныеBatchSizes (Список<Long> разрешенныеBatchSizes) |
| Вывод <Длинный> | |
| Список< Вывод <?>> | |
| статические Batch.Options | BatchingQueue (String BatchingQueue) |
| статические Batch.Options | контейнер (контейнер строк) |
| статический пакетный режим | create ( Область видимости , Iterable< Operand <?>> inTensors, Long numBatchThreads, Long maxBatchSize, LongatchTimeoutMicros, Long gradTimeoutMicros, Options... options) Фабричный метод для создания класса, обертывающего новую пакетную операцию. |
| Вывод <Длинный> | |
| статические Batch.Options | maxEnqueuedBatches (длинный maxEnqueuedBatches) |
| статические Batch.Options | общее имя (строка общее имя) |
Унаследованные методы
Публичные методы
общедоступное статическое пакетное создание (область области действия , Iterable< Operand <?>> inTensors, Long numBatchThreads, Long maxBatchSize, LongatchTimeoutMicros, Long gradTimeoutMicros, Options... options)
Фабричный метод для создания класса, обертывающего новую пакетную операцию.
Параметры
| объем | текущий объем |
|---|---|
| параметры | содержит значения необязательных атрибутов |
Возврат
- новый экземпляр Batch