📄️ ONNX Runtime
Cours premium ONNX Runtime : format, export PyTorch et TensorFlow, quantification, fournisseurs CPU, GPU, TensorRT et service. Durée 4 h, examen de 40 questions.
📄️ 1. Le format ONNX
Module 1 du cours premium ONNX Runtime : anatomie d'un modèle ONNX, graphe de calcul, jeu d'opérateurs (opset), sérialisation protobuf et inspection avec Netron.
📄️ 2. Export depuis PyTorch
Module 2 du cours premium ONNX Runtime : exporter un modèle PyTorch avec torch.onnx.export, gérer les axes dynamiques, choisir l'opset et essayer l'exportateur Dynamo.
📄️ 3. Export depuis TensorFlow
Module 3 du cours premium ONNX Runtime : convertir un SavedModel ou un modèle Keras avec tf2onnx, gérer les signatures et la convention NHWC contre NCHW.
📄️ 4. Vérification numérique
Module 4 du cours premium ONNX Runtime : comparer les sorties du modèle d'origine et de l'export ONNX, tolérances, jeux d'entrée, dérive en demi-précision.
📄️ 5. Optimisation du graphe
Module 5 du cours premium ONNX Runtime : fusion d'opérateurs, pliage de constantes, niveaux d'optimisation, sauvegarde du graphe optimisé et gain mesuré.
📄️ 6. Quantification ONNX
Module 6 du cours premium ONNX Runtime : quantification INT8 dynamique et statique, calibration, opérateurs quantifiés et compatibilité matérielle.
📄️ 7. Fournisseurs CPU, GPU, TensorRT
Module 7 du cours premium ONNX Runtime : choix et ordre des fournisseurs, options de session, TensorRT et son cache de moteur, repli silencieux sur CPU.
📄️ 8. Mesure comparative
Module 8 du cours premium ONNX Runtime : protocole reproductible, échauffement, percentiles, onnxruntime_perf_test et tableau PyTorch, ONNX, TensorRT.
📄️ 9. Opérateurs et contournements
Module 9 du cours premium ONNX Runtime : lire l'erreur, réécrire un module fautif, monter en opset, opérateur personnalisé et cas de l'encodeur de texte.
📄️ 10. Mise en service
Module 10 du cours premium ONNX Runtime : session partagée, fils, prétraitement, FastAPI minimal, ONNX Runtime Web pour l'inférence côté navigateur.
📄️ 11. Récapitulatif et examen
Synthèse des dix modules du cours ONNX Runtime, liste de contrôle d'un export sain et annonce de l'examen de 40 questions avec attestation d'achèvement.