バイアス付き量子化MatMul

パブリック最終クラスQuantizedMatMulWithBias

バイアス加算を使用して、量子化行列 'a' と行列 'b' の乗算を実行します。

入力は 2 次元行列と 1D バイアス ベクトルである必要があります。そして、`a` の内部次元 (`transpose_a` が非ゼロの場合は転置後) は、`b` の外部次元 (`transpose_b` が非ゼロの場合は転置後) と一致する必要があります。次に、行列乗算結果に対してバイアス値を使用してブロードキャスト加算演算を実行します。バイアスのサイズは「b」の内寸と一致する必要があります。

ネストされたクラス

クラスQuantizedMatMulWithBias.Options QuantizedMatMulWithBiasのオプションの属性

パブリックメソッド

静的 <W, T, U, V> QuantizedMatMulWithBias <W>
create (スコープscope,オペランド<T> a,オペランド<U> b,オペランド<V>bias,オペランド<Float> minA,オペランド<Float> maxA,オペランド<Float> minB,オペランド<Float> maxB, Class<W >出力、オプション...オプション)
新しい QuantizedMatMulWithBias 操作をラップするクラスを作成するためのファクトリ メソッド。
静的QuantizedMatMulWithBias.Options
inputQuantMode (文字列 inputQuantMode)
出力<浮動小数点数>
最大出力()
最大の量子化出力値が表す浮動小数点値。
出力<浮動小数点数>
minOut ()
最小の量子化出力値が表す浮動小数点値。
出力<W>
()
静的QuantizedMatMulWithBias.Options
transposeA (ブールtransposeA)
静的QuantizedMatMulWithBias.Options
transposeB (ブールtransposeB)

継承されたメソッド

パブリックメソッド

public static QuantizedMatMulWithBias <W> create (スコープscope,オペランド<T> a,オペランド<U> b,オペランド<V> バイアス,オペランド<Float> minA,オペランド<Float> maxA,オペランド<Float> minB,オペランド<Float > maxB、Class<W> Toutput、オプション...オプション)

新しい QuantizedMatMulWithBias 操作をラップするクラスを作成するためのファクトリ メソッド。

パラメーター
範囲現在のスコープ
ある乗算される行列。 `quint8` 型の 2 次元テンソルでなければなりません。
b乗算される行列。`qint8` 型の 2 次元テンソルでなければなりません。
バイアス`b` の内部次元と一致するサイズを持つ 1D バイアス テンソル (`transused_b` がゼロ以外の場合は転置後)。
ミナ量子化された最小の「a」値が表す浮動小数点値。
マックスA最大の量子化された「a」値が表す浮動小数点値。
minB量子化された最小の「b」値が表す浮動小数点値。
マックスB最大の量子化された「b」値が表す浮動小数点値。
オプションオプションの属性値を持ちます
戻り値
  • QuantizedMatMulWithBias の新しいインスタンス

public static QuantizedMatMulWithBias.Options inputQuantMode (String inputQuantMode)

パラメーター
入力量モード入力データの量子化モード。 MIN_FIRST (デフォルト) または SCALED のいずれか。

public出力<Float> maxOut ()

最大の量子化出力値が表す浮動小数点値。

public出力<Float> minOut ()

最小の量子化出力値が表す浮動小数点値。

public出力<W> out ()

public static QuantizedMatMulWithBias.Options transposeA (ブール transposeA)

パラメーター
トランスポーズA true の場合、「a」は乗算の前に転置されます。

public static QuantizedMatMulWithBias.Options transposeB (ブール transposeB)

パラメーター
トランスポーズB true の場合、「b」は乗算の前に転置されます。