📄️ RNN et LSTM
Modélisation de séquences avec des réseaux récurrents : RNN, LSTM, GRU, encodeur-décodeur, découpage, remplissage. Durée : 6h, avec un projet appliqué, un examen de 40 questions et une attestation vérifiable.
📄️ 1. Séquence contre tableau
Module 1 du cours premium RNN et LSTM : pourquoi les séries et le texte cassent les hypothèses d'un modèle dense, et comment fenêtrer sans provoquer de fuite temporelle.
📄️ 2. Neurone récurrent et état caché
Module 2 du cours premium RNN et LSTM : équation de récurrence, dépliage dans le temps, poids partagés, return_sequences et formes de tenseurs.
📄️ 3. Rétropropagation dans le temps
Module 3 du cours premium RNN et LSTM : dépliage du graphe, BPTT complète et tronquée, coût en mémoire et pourquoi les longues séquences deviennent difficiles à entraîner.
📄️ 4. Gradients disparaissent, explosent
Module 4 du cours premium RNN et LSTM : le produit de jacobiennes qui tue les gradients longs, l'écrêtage, l'initialisation orthogonale, et une démonstration sur 50 pas.
📄️ 5. LSTM et ses portes
Module 5 du cours premium RNN et LSTM : état de cellule contre état caché, les trois portes, pourquoi le gradient circule enfin, et le nombre de paramètres à budgétiser.
📄️ 6. GRU : simplification efficace
Module 6 du cours premium RNN et LSTM : portes de mise à jour et de réinitialisation, comparaison LSTM/GRU en paramètres et en résultats, quand préférer l'un ou l'autre.
📄️ 7. Bidirectionnels et empilés
Module 7 du cours premium RNN et LSTM : bidirectionnalité quand le futur est disponible, empilement de couches, dropout récurrent et pièges à éviter.
📄️ 8. Encodeur-décodeur
Module 8 du cours premium RNN et LSTM : vecteur de contexte, teacher forcing, jetons de début et de fin, décodage glouton, et le goulot qui motive l'attention.
📄️ 9. Découpage et remplissage
Module 9 du cours premium RNN et LSTM : fenêtrage, remplissage, masquage, tri par longueur, normalisation par fenêtre et pipelines tf.data ou DataLoader.
📄️ 10. Projet de prévision
Module 10 du cours premium RNN et LSTM : chaîne complète sur la consommation électrique, référence naïve, LSTM contre GRU, intervalles par quantiles et erreurs à ne pas commettre.
📄️ Récapitulation et examen
Récapitulation complète du cours premium RNN et LSTM : séquences, cellules, gradients, LSTM, GRU, bidirectionnels, encodeur-décodeur, découpage, projet, puis l'examen de 40 questions.