Subclases directas conocidas |
Opciones de delegado.
Clases anidadas
enumeración | GpuDelegateFactory.Options.GpuBackend | Qué backend de GPU seleccionar. |
Constantes
En t | INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER | El delegado se usará solo una vez, por lo tanto, se debe tener en cuenta el tiempo de arranque/inicio. |
En t | INFERENCE_PREFERENCE_SUSTAINED_SPEED | Prefiere maximizar el rendimiento. |
Constructores Públicos
Opciones () |
Métodos públicos
booleano | |
GpuDelegateFactory.Options.GpuBackend | |
En t | |
Cadena | |
Cadena | |
booleano | |
GpuDelegateFactory.Opciones | setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend) Establece el backend de la GPU. |
GpuDelegateFactory.Opciones | setInferencePreference (preferencia int) Establece la preferencia de inferencia para compensaciones de precisión/compilación/tiempo de ejecución. |
GpuDelegateFactory.Opciones | setPrecisionLossAllowed (precisión booleanaLossAllowed) Establece si se permite la pérdida de precisión. |
GpuDelegateFactory.Opciones | setQuantizedModelsAllowed (boolean quantizedModelsAllowed) Permite ejecutar modelos cuantificados con el delegado. |
GpuDelegateFactory.Opciones | setSerializationParams ( Cadena serializationDir, Cadena modelToken) Habilita la serialización en el delegado. |
Métodos heredados
Constantes
int final estático público INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER
El delegado se usará solo una vez, por lo tanto, se debe tener en cuenta el tiempo de arranque/inicio.
int final estático público INFERENCE_PREFERENCE_SUSTAINED_SPEED
Prefiere maximizar el rendimiento. El mismo delegado se utilizará repetidamente en múltiples entradas.
Constructores Públicos
Opciones públicas ()
Métodos públicos
público booleano areQuantizedModelsAllowed ()
público int getInferencePreference ()
booleano público esPrecisionLossAllowed ()
público GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
Establece el backend de la GPU.
Parámetros
fuerzaBackend |
---|
público GpuDelegateFactory.Options setInferencePreference (preferencia int)
Establece la preferencia de inferencia para compensaciones de precisión/compilación/tiempo de ejecución.
Parámetros
preferencia | Uno de `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (predeterminado), `INFERENCE_PREFERENCE_SUSTAINED_SPEED`. |
---|
público GpuDelegateFactory.Options setPrecisionLossAllowed (precisión booleanaLossAllowed)
Establece si se permite la pérdida de precisión.
Parámetros
precisionLossAllowed | Cuando es "verdadero" (predeterminado), la GPU puede cuantificar tensores, valores abatidos y procesar en FP16. Cuando es "falso", los cálculos se realizan en punto flotante de 32 bits. |
---|
público GpuDelegateFactory.Options setQuantizedModelsAllowed (boolean quantizedModelsAllowed)
Permite ejecutar modelos cuantificados con el delegado.
ADVERTENCIA: Esta es una API experimental y está sujeta a cambios.
Parámetros
modelos cuantificados permitidos | Cuando true (predeterminado), la GPU puede ejecutar modelos cuantificados. |
---|
público GpuDelegateFactory.Options setSerializationParams ( String serializationDir, String modelToken)
Habilita la serialización en el delegado. Tenga en cuenta que se requieren serializationDir
y modelToken
no nulos para la serialización.
ADVERTENCIA: Esta es una API experimental y está sujeta a cambios.
Parámetros
serializaciónDir | El directorio que se utilizará para almacenar datos. La persona que llama es responsable de garantizar que el modelo no se almacene en un directorio público. Se recomienda utilizar Context.getCodeCacheDir() para proporcionar una ubicación privada para la aplicación en Android. |
---|---|
modeloToken | El token que se utilizará para identificar el modelo. La persona que llama es responsable de garantizar que el token sea exclusivo del gráfico y los datos del modelo. |