Module 9 — Espérance, variance et lois usuelles

Une variable aléatoire — le résultat d'un tirage, la valeur d'une caractéristique — se résume par deux nombres : où elle se situe en moyenne (espérance) et à quel point elle s'éparpille (variance). Ce module donne ces deux résumés et présente les quelques lois de probabilité qui reviennent sans cesse en science des données.

L'espérance : le centre de gravité

L'espérance $E[X]$ est la valeur moyenne d'une variable aléatoire sur un grand nombre de tirages — le centre de gravité de sa distribution. Pour un dé équilibré, elle vaut 3,5 : non pas une face possible, mais la moyenne à long terme.

$$E[X] = \sum_i x_i \, P(x_i)$$

Sur des données, l'espérance s'estime tout simplement par la moyenne empirique (df["colonne"].mean()). C'est le premier chiffre qu'on regarde, mais il ne suffit jamais : deux jeux de données peuvent partager la même moyenne et n'avoir rien en commun.

La variance et l'écart-type : la dispersion

La variance mesure l'éparpillement autour de l'espérance : la moyenne des carrés des écarts au centre.

$$\text{Var}(X) = E[(X - E[X])^2]$$

Comme elle s'exprime dans une unité au carré (des euros², des mètres²), on lui préfère souvent l'écart-type $\sigma$, sa racine carrée, revenu à l'unité d'origine et donc directement interprétable.

import numpy as np
notes = np.array([10, 12, 11, 9, 13])
notes.mean()   # espérance estimée : 11.0
notes.std()    # écart-type : dispersion autour de 11

L'exemple canonique : deux classes ont 11 de moyenne, mais l'une va de 10 à 12 (faible variance, groupe homogène) et l'autre de 2 à 20 (forte variance, groupe éclaté). L'espérance les confond ; la variance les distingue. Cette dualité centre / dispersion irrigue tout le module suivant, sur le compromis biais-variance.

Trois lois à reconnaître

Une loi de probabilité décrit comment les valeurs d'une variable aléatoire se répartissent. Trois reviennent constamment :

Loi	Modélise	Exemple
Bernoulli	un événement binaire (succès/échec)	clic ou non, spam ou non
Uniforme	toutes les valeurs équiprobables	un dé, un tirage au hasard
Normale (gaussienne)	valeurs groupées autour d'une moyenne	tailles, erreurs de mesure

La loi normale : la reine des distributions

La loi normale, en cloche symétrique, décrit une foule de phénomènes naturels et occupe une place centrale en statistiques. Sa forme est entièrement fixée par deux paramètres : la moyenne $\mu$ (où est le sommet) et l'écart-type $\sigma$ (sa largeur). Une règle pratique, la règle « 68-95-99,7 », mérite d'être mémorisée :

• 68 % des valeurs tombent à moins d'un écart-type de la moyenne.
• 95 % à moins de deux écarts-types.
• 99,7 % à moins de trois.

Cette règle transforme l'écart-type en outil de détection : une valeur à plus de trois écarts-types de la moyenne est si improbable (moins de 0,3 %) qu'on la traite volontiers comme une anomalie — méthode courante de détection de valeurs aberrantes, en écho au nettoyage des données du cours Python.

Pourquoi la normale surgit partout

Le théorème central limite explique cette omniprésence : la moyenne d'un grand nombre de tirages indépendants tend vers une loi normale, quelle que soit la loi de départ. C'est pourquoi les erreurs de mesure, les moyennes d'échantillons et d'innombrables grandeurs agrégées suivent une cloche. C'est aussi le fondement des intervalles de confiance et des tests d'hypothèse qui servent à valider un test A/B.

En résumé

• L'espérance est le centre de gravité d'une variable aléatoire ; sur données, c'est la moyenne empirique — nécessaire mais jamais suffisante.
• La variance mesure la dispersion ; l'écart-type, sa racine, est interprétable dans l'unité d'origine.
• Trois lois clés : Bernoulli (binaire), uniforme (équiprobable), normale (en cloche).
• La loi normale est fixée par sa moyenne et son écart-type ; la règle 68-95-99,7 en fait un outil de détection d'anomalies, et le théorème central limite explique son omniprésence.

Module suivant : le compromis biais-variance, où ces notions de dispersion éclairent enfin pourquoi un modèle sur-apprend ou sous-apprend.