La bibliothèque TensorFlow Lite for Microcontrollers C++ fait partie du référentiel TensorFlow . Il est conçu pour être lisible, facile à modifier, bien testé, facile à intégrer et compatible avec TensorFlow Lite standard.
Le document suivant décrit la structure de base de la bibliothèque C++ et fournit des informations sur la création de votre propre projet.
Structure du fichier
Le répertoire racine micro
a une structure relativement simple. Cependant, comme il se trouve dans le vaste référentiel TensorFlow, nous avons créé des scripts et des fichiers de projet pré-générés qui fournissent les fichiers sources pertinents de manière isolée dans divers environnements de développement intégrés.
Fichiers clés
Les fichiers les plus importants pour l'utilisation de l'interpréteur TensorFlow Lite for Microcontrollers se trouvent à la racine du projet, accompagnés de tests :
[`micro_mutable_op_resolver.h`](https://github.com/tensorflow/tflite-micro/blob/main/tensorflow/lite/micro/micro_mutable_op_resolver.h)
can be used to provide the operations used by the interpreter to run the
model.
-
micro_error_reporter.h
génère des informations de débogage. -
micro_interpreter.h
contient du code pour gérer et exécuter des modèles.
Voir Premiers pas avec les microcontrôleurs pour une présentation pas à pas d'une utilisation typique.
Le système de construction permet des implémentations spécifiques à la plate-forme de certains fichiers. Ceux-ci se trouvent dans un répertoire portant le nom de la plateforme, par exemple cortex-m
.
Plusieurs autres répertoires existent, notamment :
-
kernel
, qui contient les implémentations des opérations et le code associé. -
tools
, qui contient les outils de construction et leur sortie. -
examples
, qui contient un exemple de code.
Démarrer un nouveau projet
Nous vous recommandons d'utiliser l'exemple Hello World comme modèle pour les nouveaux projets. Vous pouvez en obtenir une version pour la plateforme de votre choix en suivant les instructions de cette section.
Utilisez la bibliothèque Arduino
Si vous utilisez Arduino, l'exemple Hello World est inclus dans la bibliothèque Arduino_TensorFlowLite
Arduino, que vous pouvez installer manuellement dans l'IDE Arduino et dans Arduino Create .
Une fois la bibliothèque ajoutée, allez dans File -> Examples
. Vous devriez voir un exemple en bas de la liste nommé TensorFlowLite:hello_world
. Sélectionnez-le et cliquez sur hello_world
pour charger l'exemple. Vous pouvez ensuite enregistrer une copie de l'exemple et l'utiliser comme base de votre propre projet.
Générer des projets pour d'autres plateformes
TensorFlow Lite for Microcontrollers est capable de générer des projets autonomes contenant tous les fichiers sources nécessaires, à l'aide d'un Makefile
. Les environnements actuellement pris en charge sont Keil, Make et Mbed.
Pour générer ces projets avec Make, clonez le dépôt TensorFlow/tflite-micro et exécutez la commande suivante :
make -f tensorflow/lite/micro/tools/make/Makefile generate_projects
Cela prendra quelques minutes, car il doit télécharger de grandes chaînes d'outils pour les dépendances. Une fois terminé, vous devriez voir certains dossiers créés dans un chemin comme gen/linux_x86_64/prj/
(le chemin exact dépend de votre système d'exploitation hôte). Ces dossiers contiennent le projet généré et les fichiers source.
Après avoir exécuté la commande, vous pourrez trouver les projets Hello World dans gen/linux_x86_64/prj/hello_world
. Par exemple, hello_world/keil
contiendra le projet Keil.
Exécutez les tests
Pour créer la bibliothèque et exécuter tous ses tests unitaires, utilisez la commande suivante :
make -f tensorflow/lite/micro/tools/make/Makefile test
Pour exécuter un test individuel, utilisez la commande suivante, en remplaçant <test_name>
par le nom du test :
make -f tensorflow/lite/micro/tools/make/Makefile test_<test_name>
Vous pouvez trouver les noms des tests dans les Makefiles du projet. Par exemple, examples/hello_world/Makefile.inc
spécifie les noms de test pour l'exemple Hello World .
Construire des binaires
Pour créer un binaire exécutable pour un projet donné (comme un exemple d'application), utilisez la commande suivante, en remplaçant <project_name>
par le projet que vous souhaitez créer :
make -f tensorflow/lite/micro/tools/make/Makefile <project_name>_bin
Par exemple, la commande suivante créera un binaire pour l'application Hello World :
make -f tensorflow/lite/micro/tools/make/Makefile hello_world_bin
Par défaut, le projet sera compilé pour le système d'exploitation hôte. Pour spécifier une architecture cible différente, utilisez TARGET=
et TARGET_ARCH=
. L'exemple suivant montre comment créer l'exemple Hello World pour un cortex-m0 générique :
make -f tensorflow/lite/micro/tools/make/Makefile TARGET=cortex_m_generic TARGET_ARCH=cortex-m0 hello_world_bin
Lorsqu'une cible est spécifiée, tous les fichiers sources disponibles spécifiques à la cible seront utilisés à la place du code d'origine. Par exemple, le sous-répertoire examples/hello_world/cortex_m_generic
contient les implémentations SparkFun Edge des fichiers constants.cc
et output_handler.cc
, qui seront utilisés lorsque la cible cortex_m_generic
est spécifiée.
Vous pouvez trouver les noms des projets dans les Makefiles du projet. Par exemple, examples/hello_world/Makefile.inc
spécifie les noms binaires de l'exemple Hello World .
Noyaux optimisés
Les noyaux de référence à la racine de tensorflow/lite/micro/kernels
sont implémentés en C/C++ pur et n'incluent pas d'optimisations matérielles spécifiques à la plate-forme.
Les versions optimisées des noyaux sont fournies dans des sous-répertoires. Par exemple, kernels/cmsis-nn
contient plusieurs noyaux optimisés qui utilisent la bibliothèque CMSIS-NN d'Arm.
Pour générer des projets à l'aide de noyaux optimisés, utilisez la commande suivante, en remplaçant <subdirectory_name>
par le nom du sous-répertoire contenant les optimisations :
make -f tensorflow/lite/micro/tools/make/Makefile TAGS=<subdirectory_name> generate_projects
Vous pouvez ajouter vos propres optimisations en créant un nouveau sous-dossier pour celles-ci. Nous encourageons les pull request pour de nouvelles implémentations optimisées.
Générer la bibliothèque Arduino
Si vous devez générer une nouvelle version de la bibliothèque, vous pouvez exécuter le script suivant à partir du dépôt TensorFlow :
./tensorflow/lite/micro/tools/ci_build/test_arduino.sh
La bibliothèque résultante peut être trouvée dans gen/arduino_x86_64/prj/tensorflow_lite.zip
.
Portage vers de nouveaux appareils
Des conseils sur le portage de TensorFlow Lite for Microcontrollers vers de nouvelles plates-formes et appareils sont disponibles dans micro/docs/new_platform_support.md
.