Batch

Batch kelas akhir publik

Mengelompokkan semua tensor masukan secara nondeterministik.

Ketika banyak instance Operasi ini dijalankan secara bersamaan dengan container/shared_name yang sama di perangkat yang sama, beberapa akan menampilkan Tensor berbentuk nol dan lainnya akan menampilkan Tensor dengan ukuran hingga max_batch_size.

Semua Tensor di in_tensors digabungkan menjadi satu (jadi, misalnya, label dan fitur harus digabungkan dengan satu instance dari operasi ini.

Setiap pemanggilan batch memancarkan skalar `id` yang akan digunakan untuk mengidentifikasi pemanggilan khusus ini saat melakukan unbatch atau gradiennya.

Setiap operasi yang mengeluarkan batch yang tidak kosong juga akan mengeluarkan Tensor batch_index yang tidak kosong, yang merupakan matriks [K, 3] yang setiap barisnya berisi id pemanggilan, awal, dan panjang elemen dari setiap kumpulan Tensor yang ada di batched_tensors.

Tensor batch digabungkan sepanjang dimensi pertama, dan semua tensor di in_tensor harus memiliki dimensi pertama dengan ukuran yang sama.

in_tensors: Tensor yang akan dikelompokkan. num_batch_threads: Jumlah thread penjadwalan untuk memproses kumpulan pekerjaan. Menentukan jumlah batch yang diproses secara paralel. max_batch_size: Ukuran batch tidak akan pernah lebih besar dari ini. batch_timeout_micros: Jumlah maksimum mikrodetik untuk menunggu sebelum mengeluarkan batch yang tidak lengkap. diperbolehkan_batch_sizes: Daftar opsional ukuran batch yang diizinkan. Jika dibiarkan kosong, tidak melakukan apa pun. Jika tidak, berikan daftar ukuran batch, yang menyebabkan operasi memasukkan batch ke salah satu ukuran tersebut. Entrinya harus bertambah secara monoton, dan entri terakhir harus sama dengan max_batch_size. grad_timeout_micros: Batas waktu yang digunakan untuk gradien. Lihat Buka Batch. batched_tensors: Tensor kosong atau kumpulan Tensor gabungan. batch_index: Jika out_tensors tidak kosong, ada informasi untuk membalikkannya. container: Mengontrol cakupan pembagian batch ini. id: selalu berisi skalar dengan ID unik untuk pemanggilan Batch ini. shared_name: Menjalankan instance batch secara bersamaan di perangkat yang sama dengan container yang sama dan shared_name akan mengelompokkan elemen-elemennya menjadi satu. Jika dibiarkan kosong, nama operasi akan digunakan sebagai nama bersama. T: jenis tensor yang akan dikumpulkan.

Kelas Bersarang

kelas Batch.Opsi Atribut opsional untuk Batch

Metode Publik

Batch.Options statis
diperbolehkanBatchSizes (Daftar<Panjang> diperbolehkanBatchSizes)
Keluaran <Panjang>
Daftar< Keluaran <?>>
Batch.Options statis
batchingQueue (String batchingQueue)
Batch.Options statis
wadah (wadah string)
Batch statis
buat ( Lingkup cakupan, Iterable< Operand <?>> inTensors, Long numBatchThreads, Long maxBatchSize, Long batchTimeoutMicros, Long gradTimeoutMicros, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi Batch baru.
Keluaran <Panjang>
Batch.Options statis
maxEnqueuedBatches (MaxEnqueuedBatches panjang)
Batch.Options statis
Nama Bersama (String Nama Bersama)

Metode Warisan

Metode Publik

Batch statis publik.Opsi diizinkanBatchSizes (Daftar<Panjang> diizinkanBatchSizes)

Output publik <Panjang> batchIndex ()

Daftar publik< Output <?>> batchedTensors ()

Batch statis publik.Options batchingQueue (String batchingQueue)

wadah Batch.Options statis publik (wadah string)

Pembuatan Batch statis publik ( Lingkup cakupan, Iterable< Operand <?>> inTensors, Long numBatchThreads, Long maxBatchSize, Long batchTimeoutMicros, Long gradTimeoutMicros, Opsi... opsi)

Metode pabrik untuk membuat kelas yang membungkus operasi Batch baru.

Parameter
cakupan ruang lingkup saat ini
pilihan membawa nilai atribut opsional
Kembali
  • contoh baru dari Batch

keluaran publik <Panjang> id ()

Batch.Options statis publik maxEnqueuedBatches (MaxEnqueuedBatches panjang)

Batch.Options statis publik sharedName (String sharedName)