Subclases directas conocidas |
Opciones de delegado.
Clases anidadas
enumeración | GpuDelegateFactory.Options.GpuBackend | Qué backend de GPU seleccionar. |
constantes
En t | INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER | El delegado se usará solo una vez, por lo tanto, se debe tener en cuenta el tiempo de arranque/inicio. |
En t | INFERENCE_PREFERENCE_SUSTAINED_SPEED | Prefiere maximizar el rendimiento. |
Constructores Públicos
Opciones () |
Métodos públicos
booleano | |
GpuDelegateFactory.Options.GpuBackend | |
En t | |
Cadena | |
Cadena | |
booleano | |
GpuDelegateFactory.Opciones | |
GpuDelegateFactory.Opciones | setInferencePreference (preferencia int) Establece la preferencia de inferencia para las compensaciones de precisión/compilación/tiempo de ejecución. |
GpuDelegateFactory.Opciones | setPrecisionLossAllowed (booleano precisionLossAllowed) Establece si se permite la pérdida de precisión. |
GpuDelegateFactory.Opciones | setQuantizedModelsAllowed (booleano quantizedModelsAllowed) Habilita la ejecución de modelos cuantificados con el delegado. |
GpuDelegateFactory.Opciones | setSerializationParams ( String serializationDir, String modelToken) Habilita la serialización en el delegado. |
Métodos Heredados
constantes
int final estático público INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER
El delegado se usará solo una vez, por lo tanto, se debe tener en cuenta el tiempo de arranque/inicio.
int final estático público INFERENCE_PREFERENCE_SUSTAINED_SPEED
Prefiere maximizar el rendimiento. El mismo delegado se usará repetidamente en múltiples entradas.
Constructores Públicos
Opciones públicas ()
Métodos públicos
booleano público areQuantizedModelsAllowed ()
getInferencePreference público int ()
booleano público isPrecisionLossAllowed ()
público GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
Establece el GPU Backend.
Parámetros
fuerzaBackend |
---|
public GpuDelegateFactory.Options setInferencePreference (preferencia int)
Establece la preferencia de inferencia para las compensaciones de precisión/compilación/tiempo de ejecución.
Parámetros
preferencia | Uno de `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (predeterminado), `INFERENCE_PREFERENCE_SUSTAINED_SPEED`. |
---|
public GpuDelegateFactory.Options setPrecisionLossAllowed (booleano precisionLossAllowed)
Establece si se permite la pérdida de precisión.
Parámetros
precisionLossAllowed | Cuando es "verdadero" (predeterminado), la GPU puede cuantificar tensores, valores reducidos, procesar en FP16. Cuando es `falso`, los cálculos se llevan a cabo en coma flotante de 32 bits. |
---|
public GpuDelegateFactory.Options setQuantizedModelsAllowed (booleano quantizedModelsAllowed)
Habilita la ejecución de modelos cuantificados con el delegado.
ADVERTENCIA: Esta es una API experimental y está sujeta a cambios.
Parámetros
Modelos cuantificadosPermitidos | Cuando true (predeterminado), la GPU puede ejecutar modelos cuantificados. |
---|
public GpuDelegateFactory.Options setSerializationParams ( String serializationDir, String modelToken)
Habilita la serialización en el delegado. Tenga en cuenta que se requieren serializationDir
y modelToken
no nulos para la serialización.
ADVERTENCIA: Esta es una API experimental y está sujeta a cambios.
Parámetros
serializationDir | El directorio que se utilizará para almacenar datos. La persona que llama es responsable de garantizar que el modelo no se almacene en un directorio público. Se recomienda usar Context.getCodeCacheDir() para proporcionar una ubicación privada para la aplicación en Android. |
---|---|
token de modelo | El token que se utilizará para identificar el modelo. La persona que llama es responsable de garantizar que el token sea único para el gráfico y los datos del modelo. |