Mengelompokkan semua tensor input secara nondeterministik.
Ketika banyak instance Op ini dijalankan secara bersamaan dengan container/shared_name yang sama di perangkat yang sama, beberapa akan menampilkan Tensor berbentuk nol dan yang lainnya akan menampilkan Tensor dengan ukuran hingga max_batch_size.
Semua Tensor di in_tensors digabungkan bersama (jadi, misalnya, label dan fitur harus digabungkan dengan satu instance operasi ini.
Setiap pemanggilan batch memancarkan skalar `id` yang akan digunakan untuk mengidentifikasi pemanggilan khusus ini saat melakukan unbatch atau gradiennya.
Setiap op yang mengeluarkan non-empty batch juga akan memancarkan non-empty batch_index Tensor, yang merupakan matriks [K, 3] di mana setiap baris berisi id pemanggilan, awal, dan panjang elemen dari setiap set Tensor yang ada di batched_tensor.
Tensor batch digabungkan di sepanjang dimensi pertama, dan semua tensor di in_tensor harus memiliki dimensi pertama dengan ukuran yang sama.
in_tensors: Tensor yang akan di-batch. num_batch_threads: Jumlah utas penjadwalan untuk memproses kumpulan pekerjaan. Menentukan jumlah batch yang diproses secara paralel. max_batch_size: Ukuran batch tidak akan pernah lebih besar dari ini. batch_timeout_micros: Jumlah maksimum mikrodetik untuk menunggu sebelum mengeluarkan batch yang tidak lengkap. allow_batch_sizes: Daftar opsional ukuran batch yang diizinkan. Jika dibiarkan kosong, tidak melakukan apa-apa. Jika tidak, berikan daftar ukuran batch, menyebabkan op untuk memasukkan batch ke salah satu ukuran tersebut. Entri harus meningkat secara monoton, dan entri terakhir harus sama dengan max_batch_size. grad_timeout_micros: Batas waktu yang digunakan untuk gradien. Lihat Membatalkan Batch. batched_tensors: Tensor kosong atau kumpulan Tensor gabungan. batch_index: Jika out_tensors tidak kosong, memiliki informasi untuk membalikkannya. container: Mengontrol cakupan pembagian batch ini. id: selalu berisi skalar dengan ID unik untuk pemanggilan Batch ini. shared_name: Instance batch yang berjalan secara bersamaan di perangkat yang sama dengan wadah yang sama dan shared_name akan mengelompokkan elemen-elemennya. Jika dibiarkan kosong, nama op akan digunakan sebagai nama bersama. T: jenis tensor yang akan di-batch.
Kelas Bersarang
| kelas | Batch.Opsi | Atribut opsional untuk Batch | |
Metode Publik
| statis Batch.Options | allowedBatchSizes (Daftar <Panjang> allowedBatchSizes) |
| Output <Panjang> | batchIndex () |
| Daftar < Keluaran <? >> | |
| statis Batch.Options | batchingQueue (String batchingQueue) |
| statis Batch.Options | kontainer (String kontainer) |
| statis Batch | membuat ( Lingkup lingkup, Iterable < Operan <? >> inTensors, Long numBatchThreads, Long maxBatchSize, Long batchTimeoutMicros, Long gradTimeoutMicros, Options ... pilihan) Metode pabrik untuk membuat kelas yang membungkus operasi Batch baru. |
| Output <Panjang> | id () |
| statis Batch.Options | maxEnqueuedBatches (Long maxEnqueuedBatches) |
| statis Batch.Options | sharedName (String sharedName) |
Metode yang Diwarisi
Metode Publik
public static Batch buat ( Scope lingkup, Iterable < Operan <? >> inTensors, Long numBatchThreads, Long maxBatchSize, Long batchTimeoutMicros, Long gradTimeoutMicros, Options ... pilihan)
Metode pabrik untuk membuat kelas yang membungkus operasi Batch baru.
Parameter
| cakupan | lingkup saat ini |
|---|---|
| pilihan | membawa nilai atribut opsional |
Kembali
- contoh baru dari Batch