Aller au contenu principal

TensorFlow Lite : exécuter des modèles sur mobile et sur objets connectés

Un modèle qui ne tourne que dans un cahier Jupyter ne sert personne dans un champ, dans un métro sans réseau ou sur une caisse isolée. Ce cours couvre le passage d'un modèle Keras à un binaire .tflite qui s'exécute en dizaines de millisecondes sur un téléphone d'entrée de gamme, sans connexion, sans serveur, et sans envoyer la moindre image à un service tiers.

La bibliothèque a été renommée LiteRT en 2024, mais son nom usuel reste « TensorFlow Lite » : les binaires, les paquets Android et iOS, et l'API publique continuent tous à parler de TFLite. Le cours conserve cette appellation.

Durée du cours : 4 h

Ce que vous allez apprendre

  • Chiffrer un budget mémoire, calcul et énergie avant d'écrire une ligne de code
  • Convertir un modèle Keras au format .tflite et lire les métadonnées de la signature
  • Réduire la taille et la latence par quantification (plage dynamique, int8 complet, float16)
  • Décider quand un entraînement conscient de la quantification (QAT) devient nécessaire
  • Élaguer un modèle sans casser son exactitude et comprendre pourquoi le fichier ne rétrécit qu'après compression
  • Choisir entre CPU, GPU, NNAPI, Core ML et XNNPACK avec un délégué et savoir gérer le repli
  • Intégrer le modèle dans une application Android puis iOS, avec un prétraitement identique côté serveur et côté client
  • Mesurer la latence, ses percentiles et l'énergie par inférence sur trois gammes de téléphones

Prérequis

  • Cours 08 (TensorFlow et Keras) : SavedModel, boucle fit, tf.function
  • Cours 10 (réseaux convolutifs) : familiarité avec MobileNet et l'apprentissage par transfert
  • Bases Python et manipulation d'images avec NumPy

Le fil rouge du cours

Chaque module s'appuie sur le même problème concret : un classificateur de feuilles de plantes malades (jeu public PlantVillage, MobileNetV2 affiné) embarqué dans une application mobile pour des agriculteurs qui travaillent sans connexion en zone rurale. Contraintes du terrain (1), conversion (2), quantification après entraînement (3), consciente de la quantification (4), élagage (5), interprète et délégués (6), Android (7), iOS (8), mesures (9), application finale (10). À chaque étape, la même ligne du tableau « taille du fichier, latence médiane, exactitude sur les 38 classes » se remplit, et le compromis se lit d'un coup d'œil.

Modules du cours

  1. Contraintes propres à l'embarqué
  2. Conversion vers TensorFlow Lite
  3. Quantification après entraînement
  4. Entraînement conscient de la quantification
  5. Élagage et réduction de taille
  6. Interprète et délégués matériels
  7. Intégration Android
  8. Intégration iOS
  9. Mesure de la latence et de la consommation
  10. Projet : classification d'images sur téléphone
  11. Récapitulatif et examen

Évaluation et attestation

Le parcours se termine par un examen de 40 questions qui couvre les dix modules. En cas de réussite, une attestation d'achèvement est délivrée immédiatement ; son numéro est vérifiable par tout tiers sur la plateforme.

Les cours gratuits, eux, se concluent par un quiz de 5 questions avec un aperçu de l'attestation, sans certification.