Module 1 — Ce que « responsable » veut dire concrètement

L'IA responsable souffre d'un mal typique des mots trop répétés : personne ne conteste le principe, presque personne ne le rend opérationnel. Ce cours vise l'inverse. Nous partons d'un système réel — un modèle d'octroi de crédit à la consommation d'une banque de détail — et nous demandons à chaque principe : « que dois-je pouvoir montrer à un auditeur qui doute que ce système est acceptable ? ». La réponse tient toujours en un artefact vérifiable, jamais en une déclaration d'intention.

Le fil rouge du cours

La banque « Cetelinéa », fictive mais réaliste, entraîne un modèle de classification binaire pour décider d'accorder ou non un prêt à la consommation entre 500 et 20 000 euros. Le jeu contient cinq ans de dossiers historiques, environ 380 000 lignes, avec des variables démographiques, financières et de comportement bancaire. La cible est le défaut à 24 mois. Le modèle en place, un gradient boosting avec LightGBM, atteint une aire sous la courbe ROC de 0,84 et refuse environ 22 % des demandes.

Ce système, tel quel, coche toutes les cases de l'efficacité et aucune case de la responsabilité. C'est notre point de départ.

Cinq principes, un artefact chacun

Les principes acceptés au niveau international se ramènent à cinq familles. À chaque principe, on associe un artefact que l'on doit pouvoir produire.

Principe	Question posée au système	Artefact vérifiable
Équité	Le taux de refus varie-t-il selon des caractéristiques protégées, à profil de risque égal ?	Rapport Fairlearn par sous-groupe, décision documentée sur la métrique retenue
Transparence	Un demandeur refusé peut-il comprendre les raisons principales ?	Explication SHAP locale par décision, notice au demandeur en langage clair
Responsabilité	Qui répond du système, avec quels pouvoirs de correction ?	Nom, fonction, procédure de rappel du modèle, journal des versions
Sécurité	Que se passe-t-il si les entrées sortent de la plage attendue ou sont manipulées ?	Tests d'entrées extrêmes, seuils de rejet, surveillance de dérive
Vie privée	Quelles données sont collectées, conservées et pour combien de temps ?	Registre des traitements, analyse d'impact, budget de confidentialité

Cette table n'est pas exhaustive, elle est suffisante. Un système qui produit ces cinq artefacts et les tient à jour a franchi la marche que la plupart des projets ne franchissent jamais. Un système qui n'en produit aucun mais publie une « charte éthique » relève de ce que les auteurs anglophones nomment ethics washing : un vernis destiné à rassurer, sans effet mesurable sur les décisions.

Les parties prenantes ne sont pas seulement les clients

Un système d'octroi de crédit implique au moins six catégories de parties prenantes qui n'ont ni les mêmes intérêts ni les mêmes leviers.

• Le demandeur subit la décision et supporte le coût d'une erreur : refus injustifié pour lui, acceptation qui le mène au surendettement.
• Le conseiller bancaire valide ou contredit la sortie du modèle, et supporte le poids du biais d'automatisation étudié au module 7.
• La direction risques répond du taux de défaut agrégé auprès du régulateur bancaire et arbitre sur le seuil d'acceptation.
• L'équipe conformité répond de la légalité au regard du droit applicable, notamment sur les décisions automatisées.
• Les autorités de contrôle (protection des données, régulateur bancaire, futurs organismes de surveillance du règlement européen sur l'IA) exigent la production des artefacts sur demande.
• Les actionnaires et la société civile portent, l'un un risque de réputation, l'autre un intérêt à ce que l'accès au crédit ne reproduise pas des discriminations historiques.

Répondre « à quoi bon » à l'une de ces catégories, c'est signer une plainte, une amende ou une crise médiatique quelques mois plus tard. Le cours s'adresse à des équipes qui doivent tenir devant les six.

Ce que le cours ne promet pas

Trois précautions honnêtes, à poser avant d'entrer dans les modules techniques.

L'éthique ne remplace pas la loi. Un système peut être parfaitement légal et rester inacceptable ; il peut être parfaitement éthique aux yeux de ses concepteurs et rester illégal. Les modules 8 et 9 tracent la frontière juridique, les autres tracent la frontière du raisonnable. Les deux frontières ne se recouvrent pas.

Les métriques d'équité ne trancheront pas à votre place. Le module 3 démontre qu'aucune combinaison de métriques ne satisfait simultanément trois définitions naturelles de l'équité. Le rôle du système d'IA responsable est de rendre explicite l'arbitrage, pas de le supprimer.

L'explication n'est pas la justification. Un modèle peut expliquer pourquoi il refuse un prêt (« revenu faible, incidents antérieurs ») sans que cette explication constitue un motif juridiquement recevable. Le module 4 y revient en profondeur.

En résumé

• Cinq principes — équité, transparence, responsabilité, sécurité, vie privée — que l'on décline en artefacts vérifiables plutôt qu'en chartes.
• Le fil rouge du cours est un modèle d'octroi de crédit ; chaque module produit sur ce système un livrable concret.
• Les parties prenantes sont au moins six, et un projet responsable tient devant chacune, pas seulement devant sa direction.
• Le cours ne remplace pas la loi, ne tranche pas les arbitrages à votre place, et distingue expliquer de justifier.

Module suivant : d'où vient un biais, comment il s'infiltre dans un jeu de données, et pourquoi retirer une variable ne suffit presque jamais à le corriger.