パブリック静的クラスTensor.QuantizationParams
TFLite モデル スキーマ ファイル内のテーブルQuantizationParameters
に対応する量子化パラメーター。
チャネルごとの量子化は入力テンソルと出力テンソルには適用されないため、 scale
とzero_point
は両方とも配列ではなく単一の値になります。
量子化されていないテンソルの場合、scale と zero_point の値は両方とも 0 です。
量子化値 q が与えられると、対応する浮動小数点値 f は次のようになります。
f = スケール * (q - ゼロ点)
パブリックコンストラクター
QuantizationParams (float スケール、int zeroPoint) |
パブリックメソッド
浮く | getScale () スケール値を返します。 |
整数 | getゼロポイント() ゼロ点の値を返します。 |
継承されたメソッド
パブリックコンストラクター
public QuantizationParams (float スケール、int zeroPoint)
scale
とzero_point
を使用してTensor.QuantizationParams
を作成します。
パラメーター
規模 | 量子化に使用されるスケール値。 |
---|---|
ゼロポイント | 量子化に使用されるゼロ点の値。 |
パブリックメソッド
public float getScale ()
スケール値を返します。
public int getZeroPoint ()
ゼロ点の値を返します。