Module 8 — Théorème de Bayes et raisonnement probabiliste

Le théorème de Bayes est l'une des formules les plus utiles — et les plus mal comprises — de tout le domaine. Il répond à une question omniprésente : comment mettre à jour ce que je crois quand une nouvelle donnée arrive ? Le module 7 a posé le problème (le conditionnement n'est pas symétrique) ; Bayes en donne la solution exacte.

La formule et son intuition

$$P(A \mid B) = \frac{P(B \mid A) \cdot P(A)}{P(B)}$$

Décomposons en langage clair, avec $A$ = « être malade » et $B$ = « test positif » :

• $P(A)$ — la probabilité a priori : ce qu'on croyait avant le test (fréquence de la maladie).
• $P(B \mid A)$ — la vraisemblance : la fiabilité du test chez les malades.
• $P(A \mid B)$ — la probabilité a posteriori : ce qu'on croit après avoir vu le test positif.

Bayes est une machine à réviser une croyance : on part d'un a priori, une observation arrive, on obtient un a posteriori. Cet a posteriori devient l'a priori de la prochaine observation — le raisonnement s'affine indéfiniment.

L'exemple qui déjoue l'intuition : le piège du taux de base

Une maladie touche 1 personne sur 1000. Un test la détecte à 99 % chez les malades, et se trompe à 5 % chez les sains (faux positifs). Votre test est positif : quelle est la probabilité que vous soyez réellement malade ?

L'intuition souffle « environ 99 % ». La réalité est tout autre. Sur 100 000 personnes :

• 100 sont malades → 99 testées positives (vrais positifs).
• 99 900 sont saines → environ 4 995 testées positives à tort (faux positifs).

$$P(\text{malade} \mid \text{positif}) = \frac{99}{99 + 4995} \approx 1{,}9\,\%$$

Moins de 2 %. La raison : la maladie est si rare (taux de base faible) que les faux positifs, bien que peu fréquents en proportion, écrasent en nombre les vrais positifs. Ignorer le taux de base est l'une des erreurs de raisonnement les plus répandues — y compris chez des professionnels.

Le classifieur bayésien naïf

Bayes n'est pas qu'un exercice : c'est un vrai algorithme de classification. Le classifieur bayésien naïf estime $P(\text{classe} \mid \text{caractéristiques})$ via la formule de Bayes, en ajoutant une hypothèse simplificatrice — les caractéristiques sont supposées indépendantes entre elles (d'où « naïf », module 7).

Cette hypothèse est presque toujours fausse en toute rigueur, et pourtant l'algorithme fonctionne remarquablement bien, notamment pour le filtrage anti-spam : chaque mot d'un courriel apporte un indice, et Bayes combine tous ces indices en une probabilité que le message soit indésirable. Rapide, léger, interprétable — un excellent point de départ pour la classification de texte.

La pensée bayésienne, au-delà de la formule

Retenez surtout la manière de penser : une croyance n'est jamais figée, elle se met à jour à mesure que les preuves s'accumulent. C'est le socle de tout un courant de l'IA (statistiques bayésiennes, quantification de l'incertitude, tests A/B). Quand un modèle affiche « 92 % de confiance », c'est une probabilité a posteriori : le fruit d'un a priori révisé par les données d'entraînement.

En résumé

• Le théorème de Bayes relie les deux directions du conditionnement : il transforme $P(B \mid A)$ en $P(A \mid B)$ via l'a priori.
• Il se lit comme une révision de croyance : a priori → observation → a posteriori, réitérée indéfiniment.
• Le piège du taux de base : quand un événement est rare, un test même fiable produit surtout des faux positifs ; ignorer la fréquence de base fausse gravement le raisonnement.
• Le classifieur bayésien naïf applique Bayes en supposant les caractéristiques indépendantes ; simpliste mais efficace, il excelle en filtrage anti-spam.

Module suivant : espérance, variance et lois usuelles — les statistiques qui résument une distribution et quantifient la dispersion.