Mengelompokkan semua tensor masukan secara nondeterministik.
Ketika banyak instance Operasi ini dijalankan secara bersamaan dengan container/shared_name yang sama di perangkat yang sama, beberapa akan menampilkan Tensor berbentuk nol dan lainnya akan menampilkan Tensor dengan ukuran hingga max_batch_size.
Semua Tensor di in_tensors digabungkan menjadi satu (jadi, misalnya, label dan fitur harus digabungkan dengan satu instance dari operasi ini.
Setiap pemanggilan batch memancarkan skalar `id` yang akan digunakan untuk mengidentifikasi pemanggilan khusus ini saat melakukan unbatch atau gradiennya.
Setiap operasi yang mengeluarkan batch yang tidak kosong juga akan mengeluarkan Tensor batch_index yang tidak kosong, yang merupakan matriks [K, 3] yang setiap barisnya berisi id pemanggilan, awal, dan panjang elemen dari setiap kumpulan Tensor yang ada di batched_tensors.
Tensor batch digabungkan sepanjang dimensi pertama, dan semua tensor di in_tensor harus memiliki dimensi pertama dengan ukuran yang sama.
in_tensors: Tensor yang akan dikelompokkan. num_batch_threads: Jumlah thread penjadwalan untuk memproses kumpulan pekerjaan. Menentukan jumlah batch yang diproses secara paralel. max_batch_size: Ukuran batch tidak akan pernah lebih besar dari ini. batch_timeout_micros: Jumlah maksimum mikrodetik untuk menunggu sebelum mengeluarkan batch yang tidak lengkap. diperbolehkan_batch_sizes: Daftar opsional ukuran batch yang diizinkan. Jika dibiarkan kosong, tidak melakukan apa pun. Jika tidak, berikan daftar ukuran batch, yang menyebabkan operasi memasukkan batch ke salah satu ukuran tersebut. Entrinya harus bertambah secara monoton, dan entri terakhir harus sama dengan max_batch_size. grad_timeout_micros: Batas waktu yang digunakan untuk gradien. Lihat Buka Batch. batched_tensors: Tensor kosong atau kumpulan Tensor gabungan. batch_index: Jika out_tensors tidak kosong, ada informasi untuk membalikkannya. container: Mengontrol cakupan pembagian batch ini. id: selalu berisi skalar dengan ID unik untuk pemanggilan Batch ini. shared_name: Menjalankan instance batch secara bersamaan di perangkat yang sama dengan container yang sama dan shared_name akan mengelompokkan elemen-elemennya menjadi satu. Jika dibiarkan kosong, nama operasi akan digunakan sebagai nama bersama. T: jenis tensor yang akan dikumpulkan.
Kelas Bersarang
| kelas | Batch.Opsi | Atribut opsional untuk Batch | |
Metode Publik
| Batch.Options statis | diperbolehkanBatchSizes (Daftar<Panjang> diperbolehkanBatchSizes) |
| Keluaran <Panjang> | indeks batch () |
| Daftar< Keluaran <?>> | |
| Batch.Options statis | batchingQueue (String batchingQueue) |
| Batch.Options statis | wadah (wadah string) |
| Batch statis | |
| Keluaran <Panjang> | pengenal () |
| Batch.Options statis | maxEnqueuedBatches (MaxEnqueuedBatches panjang) |
| Batch.Options statis | Nama Bersama (String Nama Bersama) |
Metode Warisan
Metode Publik
Pembuatan Batch statis publik ( Lingkup cakupan, Iterable< Operand <?>> inTensors, Long numBatchThreads, Long maxBatchSize, Long batchTimeoutMicros, Long gradTimeoutMicros, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi Batch baru.
Parameter
| cakupan | ruang lingkup saat ini |
|---|---|
| pilihan | membawa nilai atribut opsional |
Kembali
- contoh baru dari Batch