float Tensor `lhs` と量子化 Tensor `rhs` のハイブリッド量子化ドットを実行します。
float `lhs` と量子化された `rhs` を指定すると、内部で `lhs` に対して量子化を実行し、次に量子化された lhs および `rhs` に対して量子化されたドットを実行します。 「lhs」の内部量子化は、qint8 への量子化、ダイナミック レンジ、バッチごと (軸 0 に沿った軸ごと)、非対称で、狭い範囲ではありません (範囲は [-128, 127])。 `lhs` と `rhs` は 2D Tensor でなければならず、lhs.dim_size(1) は rhs.dim_size(0) と一致する必要があります。 `rhs` は量子化された Tensor である必要があり、そのデータ値は次の式を使用して量子化されます: quantized_data = Clip(original_data /scale + zero_point, quantization_min_val, quantization_max_val)。
ネストされたクラス
クラス | UniformQuantizedDotHybrid.Options | UniformQuantizedDotHybrid のオプションの属性 |
パブリックメソッド
出力<V> | asOutput () テンソルのシンボリック ハンドルを返します。 |
static <V extends Number, T extends Number, U> UniformQuantizedDotHybrid <V> | |
出力<V> | 出力() Tout の出力 2D テンソル。その形状は (lhs.dim_size(0), rhs.dim_size(1)) です。 |
静的UniformQuantizedDotHybrid.Options | rhsQuantizationAxis (長い rhsQuantizationAxis) |
継承されたメソッド
パブリックメソッド
public Output <V> asOutput ()
テンソルのシンボリック ハンドルを返します。
TensorFlow オペレーションへの入力は、別の TensorFlow オペレーションの出力です。このメソッドは、入力の計算を表すシンボリック ハンドルを取得するために使用されます。
public static UniformQuantizedDotHybrid <V> create ( Scopeスコープ、オペランド<T> lhs、オペランド<U> rhs、オペランド<Float> rhsScales、オペランド<Integer> rhsZeroPoints、Class<V> Tout、Long rhsQuantizationMinVal、Long rhsQuantizationMaxVal、 Options.. .オプション)
新しいUniformQuantizedDotHybrid操作をラップするクラスを作成するファクトリメソッド。
パラメーター
範囲 | 現在のスコープ |
---|---|
左 | Tlhs の 2D テンソルである必要があります。 |
右肩 | Trhs の 2D テンソルである必要があります。 |
rhsスケール | rhs が表す元のデータを量子化するときにスケールとして使用される浮動小数点値。スカラー テンソル (テンソルごとの量子化) またはサイズ (rhs.dim_size(1),) の 1D テンソル (チャネルごとの量子化) である必要があります。 |
rhsゼロポイント | rhs が表す元のデータを量子化するときに zero_point として使用される int32 値。 rhs_scales と同じ形状条件。 |
客引き | 出力テンソルのタイプ。 |
rhs量子化最小値 | rhs に格納される量子化データの最小値。たとえば、Trhs が qint8 の場合、狭い範囲で量子化されている場合は -127、そうでない場合は -128 に設定する必要があります。 |
rhsQuantizationMaxVal | rhs に格納される量子化データの最大値。たとえば、Trhs が qint8 の場合、これを 127 に設定する必要があります。 |
オプション | オプションの属性値を持ちます |
戻り値
- UniformQuantizedDotHybrid の新しいインスタンス
public出力<V>出力()
Tout の出力 2D テンソル。その形状は (lhs.dim_size(0), rhs.dim_size(1)) です。出力データは、元の出力データそのもの(量子化されていない)です。
public static UniformQuantizedDotHybrid.Options rhsQuantizationAxis (Long rhsQuantizationAxis)
パラメーター
rhs量子化軸 | 軸ごとの量子化がその次元に沿ったスライスに適用されるテンソルの次元インデックスを示します。 -1 (デフォルト) に設定すると、テンソルごとの量子化を示します。 dot op rhs の場合、次元 1 に沿ったテンソルごとの量子化またはチャネルごとの量子化のみがサポートされます。したがって、この属性は -1 または 1 に設定する必要があります。その他の値は拒否されます。 |
---|