پارامترهای کوانتیزاسیون که با جدول QuantizationParameters
در فایل طرحواره مدل TFLite مطابقت دارد.
از آنجایی که کوانتیزاسیون هر کانال برای تانسورهای ورودی و خروجی اعمال نمیشود، scale
و zero_point
هر دو به جای آرایهها یک مقدار هستند.
برای تانسورهایی که کوانتیزه نشده اند، مقادیر مقیاس و نقطه_صفر هر دو 0 هستند.
با توجه به یک مقدار کوانتیزه شده q، مقدار شناور مربوطه f باید باشد:
f = مقیاس * (q - نقطه_صفر)
سازندگان عمومی
QuantizationParams (مقیاس شناور، int zeroPoint) |
روش های عمومی
شناور | getScale () مقدار مقیاس را برمیگرداند. |
بین المللی | getZeroPoint () مقدار نقطه صفر را برمی گرداند. |
روش های ارثی
سازندگان عمومی
عمومی QuantizationParams (مقیاس شناور، int zeroPoint)
یک Tensor.QuantizationParams
با scale
و zero_point
ایجاد می کند.
مولفه های
مقیاس | مقدار مقیاس مورد استفاده در کوانتیزاسیون. |
---|---|
نقطه صفر | مقدار نقطه صفر مورد استفاده در کوانتیزاسیون. |
روش های عمومی
عمومی float getScale ()
مقدار مقیاس را برمیگرداند.
عمومی int getZeroPoint ()
مقدار نقطه صفر را برمی گرداند.