Lotto

classe finale pubblica Batch

Batch di tutti i tensori di input in modo non deterministico.

Quando molte istanze di questa operazione vengono eseguite contemporaneamente con lo stesso contenitore / shared_name nello stesso dispositivo, alcune produrranno tensori a forma di zero e altri produrranno tensori di dimensioni fino a max_batch_size.

Tutti i tensori in in_tensors sono raggruppati insieme (quindi, ad esempio, le etichette e le caratteristiche dovrebbero essere raggruppate con una singola istanza di questa operazione.

Ogni invocazione di batch emette uno scalare `id` che verrà utilizzato per identificare questa particolare invocazione quando si esegue l'annullamento della corrispondenza o il suo gradiente.

Ogni operazione che emette un batch non vuoto emetterà anche un batch_index Tensor non vuoto, che è una matrice [K, 3] in cui ogni riga contiene l'id, l'inizio e la lunghezza dell'invocazione degli elementi di ciascun insieme di tensori presenti in batched_tensors.

I tensori batch vengono concatenati lungo la prima dimensione e tutti i tensori in in_tensors devono avere la prima dimensione della stessa dimensione.

in_tensors: i tensori da raggruppare. num_batch_threads: numero di thread di pianificazione per l'elaborazione di batch di lavoro. Determina il numero di batch elaborati in parallelo. max_batch_size: le dimensioni dei lotti non saranno mai più grandi di queste. batch_timeout_micros: numero massimo di microsecondi da attendere prima dell'output di un batch incompleto. allow_batch_sizes: elenco facoltativo di dimensioni batch consentite. Se lasciato vuoto, non fa nulla. In caso contrario, fornisce un elenco delle dimensioni dei batch, facendo sì che l'op per riempire i batch fino a una di quelle dimensioni. Le voci devono aumentare in modo monotono e la voce finale deve essere uguale a max_batch_size. grad_timeout_micros: il timeout da utilizzare per il gradiente. Vedi Unbatch. batched_tensors: o tensori vuoti o un batch di tensori concatenati. batch_index: se out_tensors non è vuoto, ha informazioni per invertirlo. container: controlla l'ambito della condivisione di questo batch. id: contiene sempre uno scalare con un ID univoco per questa chiamata di Batch. shared_name: istanze di batch in esecuzione contemporaneamente nello stesso dispositivo con lo stesso contenitore e shared_name raggrupperanno i loro elementi insieme. Se lasciato vuoto, il nome dell'operazione verrà utilizzato come nome condiviso. T: i tipi di tensori da dosare.

Classi annidate

classe Batch.Options Attributi opzionali per Batch

Metodi pubblici

Batch.Options statico
allowedBatchSizes (List <Long> allowedBatchSizes)
Uscita <Lungo>
Elenco < Uscita <? >>
Batch.Options statico
batchingQueue (String batchingQueue)
Batch.Options statico
container (String container)
Batch statico
create ( Scope scope, Iterable < Operand <? >> inTensors, Long numBatchThreads, Long maxBatchSize, Long batchTimeoutMicros, Long gradTimeoutMicros, Options ... options)
Metodo Factory per creare una classe che esegue il wrapping di una nuova operazione Batch.
Uscita <Lungo>
id ()
Batch.Options statico
maxEnqueuedBatches (Long maxEnqueuedBatches)
Batch.Options statico
sharedName (stringa sharedName)

Metodi ereditati

Metodi pubblici

public static Batch.Options allowedBatchSizes (List <Long> allowedBatchSizes)

output pubblico <Long> batchIndex ()

public List < Output <? >> batchedTensors ()

public static Batch.Options batchingQueue (String batchingQueue)

contenitore Batch.Options statico pubblico (contenitore String)

public static Batch create ( ambito ambito, Iterable < Operand <? >> inTensors, Long numBatchThreads, Long maxBatchSize, Long batchTimeoutMicros, Long gradTimeoutMicros, Opzioni ... opzioni)

Metodo Factory per creare una classe che esegue il wrapping di una nuova operazione Batch.

Parametri
scopo ambito attuale
opzioni trasporta valori di attributi opzionali
ritorna
  • una nuova istanza di Batch

public Output <Long> id ()

public static Batch.Options maxEnqueuedBatches (Long maxEnqueuedBatches)

public static Batch.Options sharedName (String sharedName)