public final クラスUniformQuantize
Tensor `input` で量子化を実行します。
`input`、`scales`、`zero_points` を指定すると、次の式を使用して量子化を実行します: quantized_data = floor(input_data * (1.0f / scale) + 0.5f) + zero_point
ネストされたクラス
クラス | UniformQuantize.Options | UniformQuantize のオプション属性 |
公開メソッド
出力<U> | asOutput () テンソルのシンボリック ハンドルを返します。 |
static <U, T extends Number> UniformQuantize <U> | |
出力<U> | 出力() 出力は、形状が入力と同じ Tout の量子化された Tensor です。 |
static UniformQuantize.Options | quantizationAxis (ロング quantizationAxis) |
継承されたメソッド
公開メソッド
public Output <U> asOutput ()
テンソルのシンボリック ハンドルを返します。
TensorFlow 操作への入力は、別の TensorFlow 操作の出力です。このメソッドは、入力の計算を表すシンボリック ハンドルを取得するために使用されます。
public static UniformQuantize <U> create (スコープスコープ、オペランド<T> 入力、オペランド<Float> スケール、オペランド<整数> zeroPoints、クラス<U> Tout、Long quantizationMinVal、Long quantizationMaxVal、オプション...オプション)
新しい UniformQuantize 操作をラップするクラスを作成するファクトリ メソッド。
パラメーター
範囲 | 現在のスコープ |
---|---|
入力 | Tin のテンソルでなければなりません。 |
はかり | `input` を量子化するスケールとして使用する float 値。 quantization_axis が -1 (テンソルごとの量子化) の場合はスカラー テンソルでなければなりません。そうでない場合は、サイズ (input.dim_size(quantization_axis),) (軸ごとの量子化) の 1D テンソルです。 |
ゼロポイント | `input` を量子化するために zero_point として使用する int32 値。鱗と同じ形状条件。 |
トウト | 出力テンソルの型。 tf.DType から: tf.float32 |
量子化MinVal | `input` を量子化する最小量子化値。この属性の目的は通常 (ただしこれに限定されません) 狭い範囲を示すことです。これは次のように設定されます: 狭い範囲の場合は `(Tin 最低値) + 1`、それ以外の場合は `(Tin 最低値)`。たとえば、Tin が qint8 の場合、狭い範囲が量子化されている場合は -127 に設定され、そうでない場合は -128 に設定されます。 |
量子化MaxVal | `input` を量子化するための量子化最大値。この属性の目的は、通常 (ただしこれに限定されません) 狭い範囲を示すことです。これは、狭い範囲と狭い範囲の両方に対して `(Tout max)` に設定されます。たとえば、Tin が qint8 の場合、これは 127 に設定されます。 |
オプション | オプションの属性値を運ぶ |
戻り値
- UniformQuantize の新しいインスタンス
public static UniformQuantize.Options quantizationAxis (Long quantizationAxis)
パラメーター
量子化軸 | その次元に沿ったスライスに軸ごとの量子化が適用されるテンソルの次元インデックスを示します。 -1 (デフォルト) に設定すると、テンソルごとの量子化を示します。それ以外の場合は、範囲 [0, input.dims()) 内に設定する必要があります。 |
---|