Lakukan titik terkuantisasi dari Tensor `lhs` terkuantisasi dan Tensor `rhs` terkuantisasi untuk menghasilkan `output` terkuantisasi.
Dengan `lhs` dan `rhs` yang terkuantisasi, lakukan titik terkuantisasi pada `lhs` dan `rhs` untuk membuat `output` terkuantisasi. `lhs` dan `rhs` harus berupa Tensor 2D dan lhs.dim_size(1) harus cocok dengan rhs.dim_size(0). `lhs` dan `rhs` harus dikuantisasi Tensor, dimana nilai data dikuantisasi menggunakan rumus: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val). `output` juga dikuantisasi, menggunakan rumus yang sama. Jika `rhs` dikuantisasi per-tensor, `output` juga harus dikuantisasi per-tensor.
Kelas Bersarang
kelas | SeragamQuantizedDot.Options | Atribut opsional untuk UniformQuantizedDot |
Metode Publik
Keluaran <U> | sebagai Keluaran () Mengembalikan pegangan simbolik tensor. |
statis <U, T> UniformQuantizedDot <U> | buat ( Lingkup lingkup, Operand <T> lhs, Operand <T> rhs, Operand <Float> lhsScales, Operand <Integer> lhsZeroPoints, Operand <Float> rhsScales, Operand <Integer> rhsZeroPoints, Operand <Float> outputScales, Operand <Integer > outputZeroPoints, Kelas<U> Tout, Panjang lhsQuantizationMinVal, Panjang lhsQuantizationMaxVal, Panjang rhsQuantizationMinVal, Panjang rhsQuantizationMaxVal, Panjang outputQuantizationMinVal, Panjang outputQuantizationMaxVal, Pilihan... pilihan) Metode pabrik untuk membuat kelas yang membungkus operasi UniformQuantizedDot baru. |
UniformQuantizedDot.Options statis | lhsQuantizationAxis (Panjang lhsQuantizationAxis) |
Keluaran <U> | keluaran () Tensor 2D keluaran Tout, yang bentuknya (lhs.dim_size(0), rhs.dim_size(1)). |
UniformQuantizedDot.Options statis | Sumbu Kuantisasi keluaran (Sumbu Kuantisasi keluaran panjang) |
UniformQuantizedDot.Options statis | rhsQuantizationAxis (Sumbu Kuantisasi rhs Panjang) |
Metode Warisan
Metode Publik
Keluaran publik <U> sebagai Keluaran ()
Mengembalikan pegangan simbolik tensor.
Masukan ke operasi TensorFlow adalah keluaran dari operasi TensorFlow lainnya. Metode ini digunakan untuk mendapatkan pegangan simbolis yang mewakili perhitungan input.
public static UniformQuantizedDot <U> buat ( Lingkup lingkup, Operand <T> lhs, Operand <T> rhs, Operand <Float> lhsScales, Operand <Integer> lhsZeroPoints, Operand <Float> rhsScales, Operand <Integer> rhsZeroPoints, Operand <Float > outputScales, Operand <Integer> outputZeroPoints, Kelas<U> Tout, Long lhsQuantizationMinVal, Long lhsQuantizationMaxVal, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Long outputQuantizationMinVal, Long outputQuantizationMaxVal, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi UniformQuantizedDot baru.
Parameter
cakupan | ruang lingkup saat ini |
---|---|
lhs | Harus berupa Tensor Timah 2D. |
rhs | Harus berupa Tensor Timah 2D. |
lhsTimbangan | Nilai float yang digunakan sebagai skala ketika mengkuantisasi data asli yang diwakili oleh lhs. Harus berupa Tensor skalar (lhs hanya mendukung kuantisasi per-tensor). |
lhsZeroPoints | Nilai int32 digunakan sebagai titik_nol saat mengkuantisasi data asli yang diwakili oleh lhs. Kondisi bentuk yang sama dengan lhs_scales. |
rhsScales | Nilai float yang digunakan sebagai skala ketika mengkuantisasi data asli yang diwakili oleh rhs. Harus berupa Tensor skalar (kuantisasi per-tensor) atau Tensor 1D dengan ukuran (rhs.dim_size(1),) (kuantisasi per saluran). |
rhsZeroPoints | Nilai int32 digunakan sebagai titik_nol saat mengkuantisasi data asli yang diwakili oleh rhs. Kondisi bentuk sama dengan rhs_scales. |
keluaranTimbangan | Nilai float yang digunakan sebagai skala saat mengkuantisasi data asli yang diwakili oleh output. Harus berupa Tensor skalar (kuantisasi per-tensor) atau Tensor 1D dengan ukuran (output.dim_size(1),) (kuantisasi per saluran). Jika rhs dikuantisasi per-tensor, output juga harus dikuantisasi per-tensor. Artinya, jika rhs_scales dan rhs_zero_points merupakan Tensor skalar, maka output_scales dan output_zero_points juga harus merupakan Tensor skalar. |
keluaranZeroPoints | Nilai int32 digunakan sebagai titik_nol saat mengkuantisasi data asli yang diwakili oleh keluaran. Kondisi bentuk sama dengan rhs_scales. |
Mengintip | Jenis Tensor keluaran. |
lhsQuantizationMinVal | Nilai min dari data terkuantisasi yang disimpan dalam lhs. Misalnya, jika Tin adalah qint8, ini harus diatur ke -127 jika rentangnya sempit atau -128 jika tidak. |
lhsQuantizationMaxVal | Nilai maksimal data terkuantisasi yang disimpan dalam rhs. Misalnya, jika Tin adalah qint8, maka ini harus disetel ke 127. |
rhsQuantizationMinVal | Nilai min dari data terkuantisasi yang disimpan dalam rhs. Misalnya, jika Trhs adalah qint8, ini harus disetel ke -127 jika rentangnya sempit atau -128 jika tidak. |
rhsQuantizationMaxVal | Nilai maksimal data terkuantisasi yang disimpan dalam rhs. Misalnya, jika Trhs adalah qint8, maka ini harus disetel ke 127. |
outputQuantizationMinVal | Nilai minimum data terkuantisasi yang disimpan dalam output. Misalnya, jika Tout adalah qint8, ini harus disetel ke -127 jika rentang sempit dikuantisasi atau -128 jika tidak. |
keluaranQuantizationMaxVal | Nilai maksimal data terkuantisasi yang disimpan dalam output. Misalnya, jika Tout adalah qint8, ini harus disetel ke 127. |
pilihan | membawa nilai atribut opsional |
Kembali
- contoh baru dari UniformQuantizedDot
UniformQuantizedDot.Options lhsQuantizationAxis statis publik (Panjang lhsQuantizationAxis)
Parameter
lhsQuantizationAxis | Menunjukkan indeks dimensi tensor tempat kuantisasi per sumbu diterapkan untuk irisan sepanjang dimensi tersebut. Jika disetel ke -1 (default), ini menunjukkan kuantisasi per tensor. Untuk operasi titik, hanya kuantisasi per-tensor yang didukung. Jadi, atribut ini harus disetel ke -1. Nilai-nilai lain ditolak. |
---|
Keluaran publik <U> keluaran ()
Tensor 2D keluaran Tout, yang bentuknya (lhs.dim_size(0), rhs.dim_size(1)).
UniformQuantizedDot.Options outputQuantizationAxis statis publik (OutputQuantizationAxis panjang)
Parameter
outputQuantizationAxis | Menunjukkan indeks dimensi tensor tempat kuantisasi per sumbu diterapkan untuk irisan sepanjang dimensi tersebut. Jika disetel ke -1 (default), ini menunjukkan kuantisasi per tensor. Untuk keluaran operasi titik, hanya kuantisasi per tensor atau kuantisasi per saluran sepanjang dimensi 1 yang didukung. Oleh karena itu, atribut ini harus disetel ke -1 atau 1. Nilai lainnya ditolak. |
---|
UniformQuantizedDot.Options rhsQuantizationAxis statis publik (RhsQuantizationAxis panjang)
Parameter
rhsQuantizationAxis | Menunjukkan indeks dimensi tensor tempat kuantisasi per sumbu diterapkan untuk irisan sepanjang dimensi tersebut. Jika disetel ke -1 (default), ini menunjukkan kuantisasi per tensor. Untuk operasi titik, hanya kuantisasi per tensor atau kuantisasi per saluran sepanjang dimensi 1 yang didukung. Oleh karena itu, atribut ini harus disetel ke -1 atau 1. Nilai lainnya ditolak. |
---|