Melakukan titik terkuantisasi hibrid Tensor `lhs` float dan Tensor `rhs` terkuantisasi.
Mengingat float `lhs` dan `rhs` terkuantisasi, lakukan kuantisasi secara internal pada `lhs`, lalu lakukan titik terkuantisasi pada lhs dan `rhs` terkuantisasi. Kuantisasi internal pada `lhs` adalah kuantisasi ke qint8, rentang dinamis, per batch (per sumbu sepanjang sumbu 0), asimetris, dan bukan rentang sempit (rentangnya [-128, 127]). `lhs` dan `rhs` harus berupa Tensor 2D dan lhs.dim_size(1) harus cocok dengan rhs.dim_size(0). `rhs` harus dikuantisasi Tensor, dimana nilai datanya dikuantisasi menggunakan rumus: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val).
Kelas Bersarang
| kelas | SeragamQuantizedDotHybrid.Options | Atribut opsional untuk UniformQuantizedDotHybrid | |
Metode Publik
| Keluaran <V> | sebagai Keluaran () Mengembalikan pegangan simbolik tensor. |
| statis <V memperluas Nomor, T memperluas Nomor, U> UniformQuantizedDotHybrid <V> | |
| Keluaran <V> | keluaran () Tensor 2D keluaran Tout, yang bentuknya (lhs.dim_size(0), rhs.dim_size(1)). |
| UniformQuantizedDotHybrid.Options statis | rhsQuantizationAxis (Sumbu Kuantisasi rhs Panjang) |
Metode Warisan
Metode Publik
Keluaran publik <V> sebagai Keluaran ()
Mengembalikan pegangan simbolik tensor.
Masukan ke operasi TensorFlow adalah keluaran dari operasi TensorFlow lainnya. Metode ini digunakan untuk mendapatkan pegangan simbolis yang mewakili perhitungan input.
public static UniformQuantizedDotHybrid <V> buat ( Ruang lingkup, Operan <T> lhs, Operan <U> rhs, Operan <Float> rhsScales, Operan <Integer> rhsZeroPoints, Kelas<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Opsi.. . pilihan)
Metode pabrik untuk membuat kelas yang membungkus operasi UniformQuantizedDotHybrid baru.
Parameter
| cakupan | ruang lingkup saat ini |
|---|---|
| lhs | Harus berupa Tensor 2D Tlhs. |
| rhs | Harus berupa Tensor 2D Trhs. |
| rhsScales | Nilai float yang digunakan sebagai skala ketika mengkuantisasi data asli yang diwakili oleh rhs. Harus berupa Tensor skalar (kuantisasi per-tensor) atau Tensor 1D dengan ukuran (rhs.dim_size(1),) (kuantisasi per saluran). |
| rhsZeroPoints | Nilai int32 digunakan sebagai titik_nol saat mengkuantisasi data asli yang diwakili oleh rhs. Kondisi bentuk sama dengan rhs_scales. |
| Mengintip | Jenis Tensor keluaran. |
| rhsQuantizationMinVal | Nilai min dari data terkuantisasi yang disimpan dalam rhs. Misalnya, jika Trhs adalah qint8, ini harus disetel ke -127 jika rentangnya sempit atau -128 jika tidak. |
| rhsQuantizationMaxVal | Nilai maksimal data terkuantisasi yang disimpan dalam rhs. Misalnya, jika Trhs adalah qint8, maka ini harus disetel ke 127. |
| pilihan | membawa nilai atribut opsional |
Kembali
- contoh baru dari UniformQuantizedDotHybrid
Keluaran publik <V> keluaran ()
Tensor 2D keluaran Tout, yang bentuknya (lhs.dim_size(0), rhs.dim_size(1)). Data keluaran merupakan data keluaran asli itu sendiri (Tidak terkuantisasi).
Seragam statis publikQuantizedDotHybrid.Options rhsQuantizationAxis (Long rhsQuantizationAxis)
Parameter
| rhsQuantizationAxis | Menunjukkan indeks dimensi tensor tempat kuantisasi per sumbu diterapkan untuk irisan sepanjang dimensi tersebut. Jika disetel ke -1 (default), ini menunjukkan kuantisasi per tensor. Untuk operasi titik, hanya kuantisasi per tensor atau kuantisasi per saluran sepanjang dimensi 1 yang didukung. Oleh karena itu, atribut ini harus disetel ke -1 atau 1. Nilai lainnya ditolak. |
|---|