パブリック クラスQuantizeOp
指定されたzeroPoint
とscale
でTensorBuffer
を量子化します。
注: QuantizeOp
出力を UINT8 にキャストせず、入力に対して量子化演算を実行するだけです。出力テンソルのデータ型は、Op が事実上単位 Op であることを除いて、常にFLOAT32
です (この場合、出力テンソルは入力と同じインスタンスです)。量子化モデルに接続するには、おそらくCastOp
が必要です。
zeroPoint
とscale
両方が 0 の場合、 QuantizeOp
バイパスされます。これは、 zeroPoint
を 0 に設定し、 scale
を 1 に設定するのと同じです。これは、TFLite モデルのフラットバッファから直接抽出された量子化パラメータを渡すときに便利です。テンソルが量子化されていない場合、 zeroPoint
とscale
両方とも 0 として読み取られます。
パブリックコンストラクター
QuantizeOp (浮動小数点ゼロポイント、浮動小数点スケール) |
継承されたメソッド
パブリックコンストラクター
public QuantizeOp (浮動小数点ゼロポイント、浮動小数点スケール)
パラメーター
ゼロポイント | |
---|---|
規模 |