Récapitulation et examen final

Dix modules pour passer d'un neurone unique à un réseau entraîné et diagnostiqué. Voici le cours condensé, puis les fils qui le traversent.

Le cours d'un coup d'œil

Module	L'essentiel à retenir
1. Du perceptron au réseau	Somme pondérée puis activation ; le perceptron échoue sur XOR, la profondeur est efficace plutôt que nécessaire
2. Fonctions d'activation	Sans non-linéarité, cent couches valent une couche ; ReLU par défaut, GELU pour les transformeurs
3. Propagation avant	Une couche est un produit matriciel ; la perte doit recevoir les scores bruts, pas une softmax
4. Rétropropagation	Règle de la chaîne : redistribuer par $W^{\top}$, filtrer par $f'(z)$, en un seul passage arrière
5. Optimiseurs	Le taux d'apprentissage domine tout ; AdamW avec échauffement puis décroissance en cosinus
6. Initialisation et gradients	He pour ReLU ; le terme $+1$ d'une connexion résiduelle ouvre un chemin direct au gradient
7. Régularisation	L'abandon équivaut à un ensemble de sous-réseaux ; l'abandon inversé impose eval() à l'inférence
8. Normalisation	$\gamma$ et $\beta$ rendent la transformation facultative ; par couche dès qu'on quitte la vision
9. Courbes d'apprentissage	Une perte plate est un bogue ; surajuster dix observations valide la chaîne en deux minutes
10. Premier réseau	Découper avant de prétraiter ; sauvegarder le normaliseur avec les poids

Les fils qui traversent le cours

Tout revient à la formule de la rétropropagation. Le gradient d'un poids profond est un produit de dérivées locales : c'est cette seule phrase qui explique le gradient évanescent (module 6), pourquoi la ReLU a supplanté la sigmoïde (module 2), pourquoi une activation saturée bloque l'apprentissage, et pourquoi les connexions résiduelles fonctionnent. Comprendre cette formule, c'est disposer d'un modèle mental qui rend les autres modules déductibles plutôt que mémorisables.

Entraînement et inférence sont deux régimes distincts. L'abandon désactive des neurones dans l'un, pas dans l'autre. La normalisation par lots utilise les statistiques du lot, puis les moyennes courantes. Oublier eval() ne lève aucune erreur : cela dégrade silencieusement les prédictions et les rend dépendantes du lot. C'est le bogue le plus fréquent de ce cours.

La perte et l'activation de sortie forment un couple. Softmax avec entropie croisée catégorielle, sigmoïde avec entropie croisée binaire, sortie linéaire avec erreur quadratique. Ce n'est pas une convention arbitraire : c'est cet appariement qui produit la simplification $\delta^{(L)} = \hat{y} - y$ du module 4.

Le diagnostic précède l'architecture. Face à un réseau qui n'apprend pas, la tentation est de changer de modèle. Les modules 6 et 9 proposent l'inverse : mesurer la norme des gradients, lire les deux courbes, surajuster un petit échantillon. Ces trois gestes localisent la cause en quelques minutes, là où le tâtonnement architectural coûte des heures.

L'examen final

L'examen comporte 40 questions couvrant les dix modules : calcul d'un neurone et dimensionnement des couches, choix d'activation et de perte selon la tâche, mécanique de la rétropropagation, réglage du taux d'apprentissage et choix d'optimiseur, initialisation et diagnostic des gradients, abandon et normalisation avec leurs deux régimes, lecture de courbes d'apprentissage, et construction d'une boucle d'entraînement correcte.

Plusieurs questions présentent des situations à diagnostiquer : une perte qui devient NaN, des courbes qui divergent, un modèle dont les prédictions changent selon le lot, un entraînement bloqué dès la première époque. C'est le jugement qui est évalué, pas la récitation de formules.

En cas de réussite, votre attestation d'achèvement est délivrée immédiatement ; son numéro est vérifiable par tout tiers sur la plateforme.

Avant de commencer

Reprenez le tableau ci-dessus et, pour chaque ligne, demandez-vous « comment verrais-je que je me trompe ici ? ». Si vous savez dire pourquoi cent couches sans activation valent une seule couche, pourquoi un modèle donne des prédictions différentes selon son lot, et ce que signifie une perte plate dès la première époque, vous êtes prêt. Bonne chance !

Examen final

Prêt à valider ce cours ?

40 questions tirées au hasard dans la banque du cours · seuil de réussite 70 % · certificat PDF vérifiable délivré immédiatement en cas de réussite.

Commencer l'examen

Connexion à votre compte InSkillML et abonnement actif requis. Vous pouvez aussi lancer l'examen depuis Mes cours.