Faça a otimização de modelos de machine learning
import tensorflow as tf import tensorflow_model_optimization as tfmot model = tf.keras.Sequential([...]) pruning_schedule = tfmot.sparsity.keras.PolynomialDecay( initial_sparsity=0.0, final_sparsity=0.5, begin_step=2000, end_step=4000) model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude( model, pruning_schedule=pruning_schedule) ... model_for_pruning.fit(...)
As Ferramentas de otimização de modelos do TensorFlow são um conjunto de acessórios para otimizar modelos de ML para implantação e execução. Dentre outras, elas são compatíveis com técnicas usadas para:
- reduzir o custo de latência e inferência para dispositivos de nuvem e borda, por exemplo, dispositivo móvel e Internet das Coisas (IoT);
- implantar modelos para dispositivos de borda com restrições de processamento, memória, consumo de energia, uso de rede e espaço de armazenamento do modelo;
- ativar a execução e otimizar para hardware existente ou para novos aceleradores para fins especiais.
Escolha o modelo e a ferramenta de otimização com base na tarefa:
-
Melhore o desempenho com modelos prontos para uso.
Em muitos casos, modelos pré-otimizados podem melhorar a eficiência do seu aplicativo. -
Use as ferramentas de otimização de modelos
Use as ferramentas de pós-treinamento para otimizar um modelo do TensorFlow já treinado. -
Otimizar ainda mais
Use ferramentas de otimização de tempo de treinamento e aprenda sobre as técnicas.