Batch

publiczna partia zajęć końcowych

Grupuje wszystkie tensory wejściowe w sposób niedeterministyczny.

Gdy wiele instancji tej operacji jest uruchamianych jednocześnie z tym samym kontenerem/nazwą_wspólną na tym samym urządzeniu, niektóre będą generować tensory w kształcie zera, a inne będą generować tensory o rozmiarze do max_batch_size.

Wszystkie Tensory w in_tensors są grupowane razem (więc na przykład etykiety i funkcje powinny być grupowane w ramach jednej instancji tej operacji).

Każde wywołanie partii emituje skalar „id”, który będzie używany do identyfikacji tego konkretnego wywołania podczas wykonywania unbatch lub jego gradientu.

Każda operacja, która emituje niepustą partię, wyemituje także niepusty Tensor Batch_index, który jest macierzą [K, 3], w której każdy wiersz zawiera identyfikator wywołania, początek i długość elementów każdego zestawu tensorów obecnych w wsadowe_tensory.

Tensory wsadowe są łączone wzdłuż pierwszego wymiaru, a wszystkie tensory w in_tensors muszą mieć pierwszy wymiar tego samego rozmiaru.

in_tensors: Tensory, które mają być grupowane. num_batch_threads: Liczba wątków planowania do przetwarzania partii pracy. Określa liczbę partii przetwarzanych równolegle. max_batch_size: Rozmiary partii nigdy nie będą większe niż to. Batch_timeout_micros: Maksymalna liczba mikrosekund oczekiwania przed wysłaniem niekompletnej partii. dozwolone_batch_sizes: Opcjonalna lista dozwolonych rozmiarów partii. Jeśli pozostanie pusty, nic nie robi. W przeciwnym razie dostarcza listę rozmiarów partii, powodując, że partie op-pad mają maksymalnie jeden z tych rozmiarów. Wpisy muszą rosnąć monotonicznie, a ostateczny wpis musi być równy max_batch_size. grad_timeout_micros: Limit czasu gradientu. Zobacz Rozpakuj. Batched_tensors: Albo puste tensory, albo partia połączonych tensorów. Batch_index: Jeśli out_tensors nie jest pusty, zawiera informacje umożliwiające jego odwrócenie. kontener: Kontroluje zakres udostępniania tej partii. id: zawsze zawiera skalar z unikalnym identyfikatorem dla tego wywołania Batch. wspólna_nazwa: Jednocześnie uruchomione instancje wsadowe na tym samym urządzeniu z tym samym kontenerem i współdzieloną nazwą spowodują zgrupowanie ich elementów. Jeśli pozostawisz puste, nazwa op będzie używana jako nazwa współdzielona. T: rodzaje tensorów, które mają być grupowane.

Klasy zagnieżdżone

klasa Opcje partii Opcjonalne atrybuty dla Batch

Metody publiczne

statyczne opcje wsadowe
dozwoloneBatchSizes (List<Long> dozwoloneBatchSizes)
Wyjście <Długie>
Lista< Wyjście <?>>
statyczne opcje wsadowe
kolejka wsadowa (kolejka wsadowa ciągów)
statyczne opcje wsadowe
kontener (kontener String)
partia statyczna
utwórz (zakres zakresu , Iterable< Operand <?>> inTensors, Long numBatchThreads, Long maxBatchSize, Long BatchTimeoutMicros, Long gradTimeoutMicros, Opcje... opcje)
Metoda fabryczna służąca do tworzenia klasy opakowującej nową operację wsadową.
Wyjście <Długie>
ID ()
statyczne opcje wsadowe
maxEnqueuedBatches (Długie maxEnqueuedBatches)
statyczne opcje wsadowe
wspólnaNazwa (Ciąg wspólnaNazwa)

Metody dziedziczone

Metody publiczne

public static Batch.Options dozwolonyBatchSizes (List<Long> dozwolonyBatchSizes)

publiczne wyjście <Long> wsadIndex ()

public List< Output <?>> BattedTensors ()

public static Batch.Options kolejka wsadowa (kolejka wsadowa ciągów)

publiczny statyczny kontener Batch.Options (kontener String)

publiczne statyczne tworzenie wsadowe (zakres zakresu , Iterable< Operand <?>> inTensors, Long numBatchThreads, Long maxBatchSize, Long BatchTimeoutMicros, Long gradTimeoutMicros, Opcje... opcje)

Metoda fabryczna służąca do tworzenia klasy opakowującej nową operację wsadową.

Parametry
zakres aktualny zakres
opcje przenosi opcjonalne wartości atrybutów
Zwroty
  • nowa instancja Batcha

publiczny identyfikator wyjściowy <długi> ()

public static Batch.Options maxEnqueuedBatches (Długie maxEnqueuedBatches)

public static Batch.Options wspólnaNazwa (String wspólnaNazwa)