Leçon 6 — Récapitulatif et FAQ
Les cinq leçons en une page
Leçon 1 — les biais. Ils viennent des données, de la conception et du déploiement, jamais d'une intention du modèle. Le biais de mesure est le plus discret : la variable prédite n'est presque jamais celle qui intéresse. Retirer une variable sensible ne supprime pas la discrimination et vous prive du moyen de la mesurer.
Leçon 2 — l'équité. Plusieurs définitions coexistent et s'excluent mathématiquement dès que les taux de base diffèrent. Il faut donc choisir explicitement, en fonction de la symétrie du coût des erreurs, de l'usage du score et du cadre juridique — et documenter ce que le choix sacrifie.
Leçon 3 — l'explicabilité. Un modèle interprétable donne une explication exacte ; une explication a posteriori donne une approximation. Aucune ne prouve l'équité ni n'établit de causalité. Sur données tabulaires, l'écart de performance avec un modèle opaque est souvent de un à trois points, ce qui rend l'interprétable préférable sur toute décision sensible.
Leçon 4 — les données personnelles. Les principes du RGPD s'appliquent intégralement, la finalité étant le point de blocage le plus fréquent. Le droit à l'effacement impose une traçabilité entre données et modèles. Le règlement européen sur l'IA classe par niveau de risque, avec des obligations réelles pour le haut risque.
Leçon 5 — la responsabilité. Elle suit l'organisation qui déploie. Contre la dilution, un propriétaire nommé par système, un inventaire, une fiche de modèle, une décision de déploiement documentée, une surveillance par groupe et une voie de recours effective.
Glossaire
| Terme | Ce que cela veut dire |
|---|---|
| Biais historique | les données reflètent des inégalités réelles du passé |
| Biais d'échantillonnage | les données ne représentent pas la population visée |
| Biais de mesure | la variable prédite n'est pas celle qui intéresse vraiment |
| Substitut (proxy) | une variable corrélée à un attribut sensible retiré |
| Boucle de rétroaction | le modèle influence les données qui l'entraîneront ensuite |
| Biais d'automatisation | la tendance humaine à trop se fier à une sortie machine |
| Parité démographique | même taux de décisions favorables dans chaque groupe |
| Égalité des chances | même taux de vrais positifs dans chaque groupe |
| Égalité des taux d'erreur | faux positifs et faux négatifs équilibrés entre groupes |
| Calibration | un score signifie la même chose dans chaque groupe |
| Taux de base | la fréquence réelle de l'événement dans un groupe |
| Modèle interprétable | un modèle dont le fonctionnement est directement lisible |
| Explication a posteriori | une approximation du comportement d'un modèle opaque |
| SHAP | méthode attribuant à chaque variable sa contribution à une prédiction |
| Contrefactuel | ce qu'il aurait fallu changer pour inverser la décision |
| Pseudonymisation | remplacer les identifiants par des codes ; reste du personnel |
| Anonymisation | rendre la réidentification raisonnablement impossible |
| Confidentialité différentielle | un bruit calibré offrant une garantie mathématique de vie privée |
| Décision automatisée | une décision prise sans intervention humaine réelle |
| Analyse d'impact | l'évaluation préalable d'un traitement à risque élevé |
| Haut risque | catégorie du règlement européen portant les obligations lourdes |
| Fiche de modèle | document décrivant usage prévu, usages exclus, limites, performances |
| Désapprentissage machine | retirer l'influence d'un exemple d'un modèle déjà entraîné |
Les 12 questions que les gens posent vraiment
1. Retirer le sexe ou l'origine des variables suffit-il ?
Non, et c'est la fausse évidence la plus répandue. D'autres variables — code postal, prénom, établissement scolaire, historique d'achats, intitulé de poste — reconstituent l'information, et le modèle s'en sert. Retirer l'attribut rend surtout la discrimination invisible, puisque vous ne pouvez plus comparer les résultats entre groupes.
2. Peut-on rendre un modèle totalement équitable ?
Non, et ce n'est pas une limite technique. Les principales définitions de l'équité sont mathématiquement incompatibles dès que les taux de base diffèrent entre groupes. La démarche sérieuse consiste à choisir une définition, à expliquer pourquoi, et à documenter ce que ce choix sacrifie.
3. Faut-il collecter les attributs sensibles ou les éviter ?
Il faut les connaître pour auditer, sans les donner au modèle. C'est contre-intuitif et c'est la seule façon de mesurer un écart entre groupes. La bonne pratique est une collecte séparée, protégée, avec pour unique finalité l'évaluation de l'équité — finalité reconnue comme légitime par plusieurs autorités de protection des données.
4. Comment auditer un modèle concrètement ?
Quatre gestes en une demi-journée : segmenter toutes les métriques par groupe au lieu de regarder la moyenne, comparer les taux de sélection, tenter de prédire l'attribut sensible à partir de vos variables pour détecter les substituts, et examiner à la main les décisions proches du seuil. Cela révèle l'essentiel des problèmes structurels.
5. L'explicabilité prouve-t-elle qu'un modèle est équitable ?
Non. Une explication décrit ce que le modèle a utilisé pour une décision ; l'équité est une propriété statistique qui se mesure sur des populations. Une explication qui ne mentionne aucune variable sensible est parfaitement compatible avec une discrimination portée par des substituts.
6. Peut-on utiliser des données clients pour entraîner un modèle ?
Seulement si la finalité le permet. Des données collectées pour exécuter un contrat ne sont pas automatiquement utilisables pour entraîner un modèle : il faut examiner la compatibilité de cette nouvelle finalité, documenter la base légale, et informer les personnes. C'est le point de non-conformité le plus fréquent dans les projets d'IA.
7. Comment gérer une demande d'effacement sur un modèle déjà entraîné ?
Le désapprentissage exact reste un problème ouvert. La pratique acceptée consiste à supprimer la donnée des sources, à la retirer du jeu d'entraînement et à l'exclure au prochain réentraînement. Cela exige de savoir quelles données ont entraîné quel modèle : sans traçabilité, la demande est techniquement impossible à honorer.
8. Notre projet relève-t-il du haut risque au sens du règlement européen ?
Si votre système intervient dans le recrutement, l'accès au crédit, l'éducation, la santé, la justice, les infrastructures critiques ou la biométrie, partez du principe que oui. Sinon, il relève probablement du risque limité ou minimal. Qualifiez-le tôt : reconstituer une documentation de haut risque après coup coûte plusieurs fois le prix de sa production au fil du projet.
9. Un humain dans la boucle règle-t-il le problème ?
Seulement s'il a du temps, de l'information, de l'autorité pour contredire sans surcoût de justification, et si l'on mesure son taux de désaccord. Un opérateur qui approuve 99 % des recommandations n'est pas une garantie ; c'est une signature. Le taux de désaccord proche de zéro est le signal d'alerte le plus fiable.
10. Faut-il un comité d'éthique ?
Utile dans une grande organisation, jamais suffisant. Un comité qui examine des dossiers sans que les équipes disposent de méthodes produit surtout des comptes rendus. Ce qui change les résultats, ce sont les pratiques quotidiennes : métriques segmentées par groupe, propriétaire nommé, fiche de modèle, voie de recours suivie.
11. L'éthique ralentit-elle les projets ?
Les vérifications décrites dans ce cours prennent quelques jours. Un système retiré après un incident coûte des mois, plus le préjudice de réputation et le risque juridique. Ce qui ralentit vraiment, c'est de découvrir en production un problème que trois heures d'analyse auraient révélé avant.
12. Où aller après ce cours ?
MLOps pour la surveillance, sans laquelle aucun engagement ne tient dans la durée. Machine Learning pour l'évaluation, là où les biais se mesurent. Grands modèles de langage pour les enjeux propres aux systèmes génératifs.
Les cours premium couvrent l'audit d'équité avec outils, l'explicabilité appliquée, la documentation de modèles et la conformité au règlement européen, avec des cas réels et un certificat vérifiable après un examen de 40 questions. Inclus dans toutes les formules payantes.
Dernière étape — Passez le quiz et découvrez votre attestation →