lớp tĩnh công khai Tensor.QuantizationParams
Các tham số lượng tử hóa tương ứng với bảng QuantizationParameters trong tệp lược đồ Mô hình TFLite.
Vì lượng tử hóa trên mỗi kênh không áp dụng cho các tensor đầu vào và đầu ra, nên scale và zero_point đều là các giá trị đơn thay vì mảng.
Đối với tenxơ không được lượng tử hóa, các giá trị của thang đo và điểm 0 đều bằng 0.
Cho một giá trị lượng tử hóa q, giá trị float tương ứng f sẽ là:
f = tỷ lệ * (q - zero_point)
Nhà xây dựng công cộng
Lượng tử hóaParams (thang float, int zeroPoint) |
Phương pháp công khai
| trôi nổi | lấyScale () Trả về giá trị tỷ lệ. |
| int | getZeroPoint () Trả về giá trị điểm 0. |
Phương pháp kế thừa
Nhà xây dựng công cộng
public QuantizationParams (thang float, int zeroPoint)
Tạo Tensor.QuantizationParams với scale và zero_point .
Thông số
| tỉ lệ | Giá trị tỷ lệ được sử dụng trong lượng tử hóa. |
|---|---|
| điểm không | Giá trị điểm 0 được sử dụng trong lượng tử hóa. |
Phương pháp công khai
float công khai getScale ()
Trả về giá trị tỷ lệ.
int công khai getZeroPoint ()
Trả về giá trị điểm 0.