Mengkuantisasi TensorBuffer
dengan zeroPoint
dan scale
yang diberikan.
Catatan: QuantizeOp
tidak memberikan keluaran ke UINT8, tetapi hanya melakukan perhitungan kuantisasi di atas masukan. Tipe data tensor keluaran selalu FLOAT32
kecuali Op secara efektif merupakan identitas Op (dalam hal ini, tensor keluaran adalah instance yang sama dengan masukan). Untuk terhubung dengan model terkuantisasi, CastOp
mungkin diperlukan.
Jika zeroPoint
dan scale
sama-sama 0, QuantizeOp
akan dilewati, yang setara dengan menyetel zeroPoint
ke 0 dan scale
ke 1. Hal ini dapat berguna saat meneruskan parameter kuantisasi yang diekstraksi langsung dari flatbuffer model TFLite. Jika tensor tidak dikuantisasi, zeroPoint
dan scale
akan dibaca sebagai 0.
Konstruktor Publik
QuantizeOp (float zeroPoint, skala float) |
Metode Warisan
Konstruktor Publik
QuantizeOp publik (float zeroPoint, skala float)
Parameter
titik nol | |
---|---|
skala |