すべての入力テンソルを非決定的にバッチ処理します。
この Op の多くのインスタンスが同じデバイス内の同じコンテナ/shared_name で同時に実行されている場合、一部はゼロ形状の Tensor を出力し、その他は max_batch_size までのサイズの Tensor を出力します。
in_tensors 内のすべての Tensor はまとめてバッチ処理されます (したがって、たとえば、ラベルと特徴はこの操作の単一インスタンスでバッチ処理される必要があります)。
バッチの各呼び出しは、バッチ解除またはその勾配を実行するときにこの特定の呼び出しを識別するために使用される「id」スカラーを生成します。
空ではないバッチを発行する各操作は、空ではないbatch_index Tensorも発行します。これは、各行に呼び出しのID、開始、要素の長さが含まれる[K, 3]行列です。バッチ化された_tensor。
バッチ化されたテンソルは最初の次元に沿って連結され、in_tensor 内のすべてのテンソルは同じサイズの最初の次元を持つ必要があります。
in_tensors: バッチ化されるテンソル。 num_batch_threads: 作業のバッチを処理するためのスケジューリング スレッドの数。並行して処理されるバッチの数を決定します。 max_batch_size: バッチ サイズがこれより大きくなることはありません。 batch_timeout_micros: 不完全なバッチを出力する前に待機する最大マイクロ秒数。 allowed_batch_sizes: 許可されるバッチ サイズのオプションのリスト。空のままにすると、何も行われません。それ以外の場合は、バッチ サイズのリストを提供し、操作によってそれらのサイズの 1 つまでバッチが埋め込まれます。エントリは単調増加する必要があり、最終エントリは max_batch_size と等しくなる必要があります。 grad_timeout_micros: 勾配に使用するタイムアウト。 「バッチ解除」を参照してください。 atched_tensors: 空のテンソルまたは連結されたテンソルのバッチ。 atch_index: out_tensors が空でない場合、それを反転するための情報が含まれます。コンテナ: このバッチの共有範囲を制御します。 id: には、この Batch 呼び出しの一意の ID を持つスカラーが常に含まれます。 shared_name: 同じコンテナーを使用して同じデバイス内でバッチのインスタンスを同時に実行すると、shared_name はそれらの要素をまとめてバッチ処理します。空のままにすると、op 名が共有名として使用されます。 T: バッチ処理されるテンソルのタイプ。
ネストされたクラス
| クラス | バッチオプション | Batchのオプションの属性 | |
パブリックメソッド
| 静的Batch.Options | allowedBatchSizes (List<Long> allowedBatchSizes) |
| 出力<ロング> | |
| リスト<出力<?>> | |
| 静的Batch.Options | バッチングキュー(文字列バッチングキュー) |
| 静的Batch.Options | コンテナ（文字列コンテナ） |
| 静的バッチ | create (スコープscope、Iterable< Operand <?>> inTensors、Long numBatchThreads、Long maxBatchSize、Long batchTimeoutMicros、Long gradTimeoutMicros、 Options...オプション) 新しいバッチ操作をラップするクラスを作成するファクトリ メソッド。 |
| 出力<ロング> | ID () |
| 静的Batch.Options | maxEnqueuedBatches (長い maxEnqueuedBatches) |
| 静的Batch.Options | 共有名(文字列共有名) |
継承されたメソッド
パブリックメソッド
public staticバッチ作成(スコープスコープ、Iterable<オペランド<?>> inTensors、Long numBatchThreads、Long maxBatchSize、Long batchTimeoutMicros、Long gradTimeoutMicros、 Options...オプション)
新しいバッチ操作をラップするクラスを作成するファクトリ メソッド。
パラメーター
| 範囲 | 現在のスコープ |
|---|---|
| オプション | オプションの属性値を持ちます |
戻り値
- Batch の新しいインスタンス