공개 정적 클래스 MetadataExtractor.QuantizationParams
TFLite 모델 스키마 파일의 QuantizationParameters
테이블에 해당하는 양자화 매개변수입니다 .
채널별 양자화는 입력 및 출력 텐서에 적용되지 않으므로 scale
및 zero_point
는 모두 배열이 아닌 단일 값입니다.
양자화되지 않은 텐서의 경우 scale과 zero_point 값은 모두 0입니다.
양자화된 값 q가 주어지면 해당 float 값 f는 다음과 같아야 합니다.
f = 규모 * (q - zero_point)
공공 생성자
QuantizationParams (부동 스케일, int zeroPoint) |
공개 방법
뜨다 | getScale () 스케일 값을 반환합니다. |
정수 | getZeroPoint () 영점 값을 반환합니다. |
상속된 메서드
공공 생성자
public QuantizationParams (부동 소수점 스케일, int zeroPoint)
scale
및 zero_point
사용하여 MetadataExtractor.QuantizationParams
생성합니다.
매개변수
규모 | 양자화에 사용되는 스케일 값입니다. |
---|---|
영점 | 양자화에 사용되는 영점 값입니다. |
공개 방법
공개 부동 getScale ()
스케일 값을 반환합니다.
공개 int getZeroPoint ()
영점 값을 반환합니다.