Định lượng một TensorBuffer
với zeroPoint
và scale
đã cho.
Lưu ý: QuantizeOp
không chuyển đầu ra sang UINT8 mà chỉ thực hiện phép toán lượng tử hóa trên đầu vào. Kiểu dữ liệu của tenxơ đầu ra luôn là FLOAT32
ngoại trừ Op thực sự là một nhận dạng Op (trong trường hợp này, tenxơ đầu ra giống hệt với đầu vào). Để kết nối với mô hình lượng tử hóa, có thể cần có CastOp
.
Nếu cả zeroPoint
và scale
đều bằng 0 thì QuantizeOp
sẽ bị bỏ qua, tương đương với việc đặt zeroPoint
thành 0 và scale
thành 1. Điều này có thể hữu ích khi truyền tham số lượng tử hóa được trích xuất trực tiếp từ bộ đệm phẳng mô hình TFLite. Nếu tenxơ không được lượng tử hóa, cả zeroPoint
và scale
sẽ được đọc là 0.
Nhà xây dựng công cộng
QuantizeOp (float zeroPoint, thang đo float) |
Phương pháp kế thừa
Nhà xây dựng công cộng
công khai QuantizeOp (float zeroPoint, thang đo float)
Thông số
điểm không | |
---|---|
tỉ lệ |