یک TensorBuffer
با zeroPoint
و scale
داده شده کوانتیزه می کند.
توجه: QuantizeOp
خروجی را به UINT8 نمیفرستد، بلکه فقط ریاضیات کوانتیزاسیون را در بالای ورودی انجام میدهد. نوع داده تانسور خروجی همیشه FLOAT32
است با این تفاوت که Op عملاً یک Op هویت است (در این مورد، تانسور خروجی همان نمونه ورودی است). برای ارتباط با مدل کوانتیزه، احتمالاً به CastOp
نیاز است.
اگر هر دو zeroPoint
و scale
0 باشند، QuantizeOp
دور زده میشود، که معادل تنظیم zeroPoint
روی 0 و scale
1 است. این میتواند هنگام عبور از پارامترهای کوانتیسازی که مستقیماً از بافر مسطح مدل TFLite استخراج میشوند، مفید باشد. اگر تانسور کوانتیزه نشود، هر دو zeroPoint
و scale
0 خوانده می شوند.
سازندگان عمومی
QuantizeOp (نقطه صفر شناور، مقیاس شناور) |
روش های ارثی
سازندگان عمومی
عمومی QuantizeOp (نقطه صفر شناور، مقیاس شناور)
مولفه های
نقطه صفر | |
---|---|
مقیاس |