UniformRequantize kelas akhir publik
Mengingat `input` tensor terkuantisasi, kuantisasi ulang dengan parameter kuantisasi baru.
Diberikan tensor terkuantisasi `input`, yang dikuantisasi menggunakan {input_scales, input_zero_points, input_quantization_axis, input_quantization_min_val, input_quantization_max_val}, requantize ke tensor, yang dikuantisasi menggunakan {output_scales, output_zero_points, output_quantization_quantization} Rekuantisasi dilakukan dengan menggunakan rumus: output_quantized_data = clip( (input_quantized_data - input_zero_point) * (input_scale / output_scale) + output_zero_point, output_quantization_min_val, output_quantization_max_val)
Kasus yang didukung kuantisasi per-tensor dan per-sumbu adalah sebagai berikut:
- per-tensor -> per-tensor
- per-tensor -> per-sumbu
- per-sumbu -> per-sumbu di mana input_quantization_axis sama dengan output_quantization_axis. yaitu Setidaknya satu di antara sumbu_kuantisasi_input dan sumbu_kuantisasi_output harus -1, atau dua harus sama.
Kelas Bersarang
| kelas | UniformRequantize.Options | Atribut opsional untuk UniformRequantize | |
Metode Publik
| Keluaran <U> | sebagai Keluaran () Mengembalikan pegangan simbolis tensor. |
| statis <U, T> UniformRequantize <U> | buat ( Cakupan lingkup, input Operand <T>, Operand <Float> inputScales, Operand <Integer> inputZeroPoints, Operand <Float> outputScales, Operand <Integer> outputZeroPoints, Class<U> Tout, Long inputQuantizationMinVal, Long inputQuantizationMaxVal, Long outputQuantizationMinVal, Output panjangQuantizationMaxVal, Opsi... opsi) Metode pabrik untuk membuat kelas yang membungkus operasi UniformRequantize baru. |
| UniformRequantize.Options statis | inputQuantizationAxis (Sumbukuantisasi input panjang) |
| Keluaran <U> | keluaran () Keluaran terkuantisasi Tensor of Tout, yang bentuknya sama dengan masukan. |
| UniformRequantize.Options statis | outputQuantizationAxis (Output panjangQuantizationAxis) |
Metode yang Diwarisi
Metode Publik
Output publik <U> sebagai Output ()
Mengembalikan pegangan simbolis tensor.
Input ke operasi TensorFlow adalah output dari operasi TensorFlow lainnya. Metode ini digunakan untuk mendapatkan pegangan simbolis yang mewakili perhitungan input.
public static UniformRequantize <U> create ( Scope scope, Operand <T> input, Operand <Float> inputScales, Operand <Integer> inputZeroPoints, Operand <Float> outputScales, Operand <Integer> outputZeroPoints, Class<U> Tout, Long inputQuantizationMinVal, Input panjangQuantizationMaxVal, Output panjangQuantizationMinVal, Output panjangQuantizationMaxVal, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi UniformRequantize baru.
Parameter
| cakupan | lingkup saat ini |
|---|---|
| memasukkan | Harus Tensor Timah. |
| masukanSkala | Nilai float yang digunakan sebagai skala saat mengkuantisasi data asli yang diwakili oleh `input`. Harus berupa Tensor skalar jika quantization_axis adalah -1 (kuantisasi per-tensor), jika tidak, Tensor ukuran 1D (input.dim_size(quantization_axis),) (kuantisasi per-sumbu). |
| masukanZeroPoints | Nilai int32 digunakan sebagai titik_nol saat mengkuantisasi data asli yang diwakili oleh `input`. Kondisi bentuknya sama dengan sisik. |
| Timbangan keluaran | Nilai float yang akan digunakan sebagai skala baru untuk mengkuantisasi data asli yang diwakili oleh `input`. Harus berupa Tensor skalar jika quantization_axis adalah -1 (kuantisasi per-tensor), jika tidak, Tensor ukuran 1D (input.dim_size(quantization_axis),) (kuantisasi per-sumbu). |
| keluaranZeroPoints | Nilai int32 yang akan digunakan sebagai titik_nol baru untuk mengkuantisasi data asli yang diwakili oleh `input`. Kondisi bentuknya sama dengan sisik. |
| Mengintip | Jenis Tensor keluaran. Jenis tf.D dari: tf.qint8, tf.qint32 |
| masukanKuantisasiMinVal | Nilai min kuantisasi yang digunakan saat mengkuantisasi data asli yang diwakili oleh `input`. Tujuan atribut ini biasanya (namun tidak terbatas pada) untuk menunjukkan rentang sempit, di mana ini diatur ke: `(Tin terendah) + 1` jika rentang sempit, dan `(Tin terendah)` sebaliknya. Misalnya, jika Tin adalah qint8, ini diatur ke -127 jika rentang sempit terkuantisasi atau -128 jika tidak. |
| masukanKuantisasiMaxVal | Nilai maks kuantisasi yang digunakan saat mengkuantisasi data asli yang diwakili oleh `input`. Tujuan atribut ini biasanya (namun tidak terbatas pada) menunjukkan rentang sempit, di mana ini disetel ke: `(Tout max)` untuk rentang sempit dan bukan rentang sempit. Misalnya, jika Tin adalah qint8, ini diatur ke 127. |
| keluaranKuantisasiMinVal | Nilai min kuantisasi baru untuk mengkuantisasi data asli yang diwakili oleh `input`. |
| keluaranQuantizationMaxVal | Nilai maks kuantisasi baru untuk mengkuantisasi data asli yang diwakili oleh `input`. |
| pilihan | membawa nilai atribut opsional |
Kembali
- contoh baru UniformRequantize
UniformRequantize.Options inputQuantizationAxis statis publik (Input panjangQuantizationAxis)
Parameter
| masukanQuantizationAxis | Sumbu kuantisasi yang digunakan saat mengkuantisasi data asli yang diwakili oleh `input`. Menunjukkan indeks dimensi tensor tempat kuantisasi per sumbu diterapkan untuk irisan sepanjang dimensi tersebut. Jika diatur ke -1 (default), ini menunjukkan kuantisasi per-tensor. Jika tidak, itu harus diatur dalam rentang [0, input.dims()). |
|---|
Keluaran publik <U> keluaran ()
Keluaran terkuantisasi Tensor of Tout, yang bentuknya sama dengan masukan.
UniformRequantize.Options keluaran publikQuantizationAxis (output panjangQuantizationAxis)
Parameter
| keluaranQuantizationAxis | Sumbu kuantisasi baru yang digunakan untuk mengkuantisasi data asli yang diwakili oleh `input`. |
|---|