Verilen zeroPoint
ve scale
ile bir TensorBuffer
niceler.
Not: QuantizeOp
çıktıyı UINT8'e aktarmaz, yalnızca girdinin üstünde niceleme matematiğini gerçekleştirir. Çıkış tensörünün veri türü her zaman FLOAT32
, ancak Op etkin bir şekilde bir Op kimliğidir (bu durumda çıkış tensörü girişle aynı örnektir). Nicelenmiş modele bağlanmak için muhtemelen bir CastOp
ihtiyaç vardır.
Hem zeroPoint
hem de scale
0 ise, QuantizeOp
atlanacaktır; bu, zeroPoint
0'a ve scale
1'e ayarlanmasına eşdeğerdir. Bu, doğrudan TFLite modeli düz arabelleğinden çıkarılan niceleme parametrelerini aktarırken yararlı olabilir. Tensör kuantize edilmemişse hem zeroPoint
hem de scale
0 olarak okunacaktır.
Kamu İnşaatçıları
QuantizeOp (float sıfır noktası, float ölçeği) |
Kalıtsal Yöntemler
Kamu İnşaatçıları
public QuantizeOp (float sıfırNoktası, float ölçeği)
Parametreler
sıfır Noktası | |
---|---|
ölçek |