Leçon 4 — Les données personnelles
Cette leçon présente les principes du droit européen appliqués au machine learning. Elle a une visée pédagogique et ne constitue pas un conseil juridique : les qualifications dépendent de votre situation précise, et un projet réel se traite avec un juriste ou un délégué à la protection des données.
Les six principes du RGPD, appliqués au machine learning
Le règlement général sur la protection des données ne parle pas d'intelligence artificielle et s'y applique intégralement. Ses principes se traduisent en contraintes très concrètes.
La licéité. Vous avez besoin d'une base légale pour traiter des données personnelles : consentement, exécution d'un contrat, obligation légale, intérêt légitime, mission d'intérêt public, sauvegarde des intérêts vitaux. « Nous en avons besoin pour entraîner un modèle » n'en est pas une. L'intérêt légitime est souvent invoqué et exige une mise en balance documentée avec les droits des personnes.
La finalité déterminée. Les données collectées pour un objectif ne peuvent pas être réutilisées librement pour un autre. C'est le point qui pose le plus souvent problème : des données de facturation collectées pour facturer ne sont pas automatiquement utilisables pour entraîner un modèle de prédiction. La compatibilité de la nouvelle finalité doit être examinée.
La minimisation. Vous ne collectez que ce qui est nécessaire à la finalité. Le réflexe du machine learning est inverse — « prenons tout, le modèle triera » — et il est contraire au principe. En pratique, la majorité des variables collectées « au cas où » n'améliorent pas le modèle.
L'exactitude. Les données doivent être exactes et tenues à jour, et les personnes ont droit à la rectification.
La limitation de conservation. Les données ne se gardent pas indéfiniment. Cela s'applique aussi aux jeux d'entraînement archivés et aux journaux d'inférence, régulièrement oubliés dans les inventaires.
L'intégrité et la confidentialité. Sécuriser les données, ce qui rejoint la leçon sur la sécurité cloud.
Les droits des personnes et leur traduction technique
Six droits, dont trois ont des conséquences techniques mal anticipées.
| Droit | Ce qu'il implique techniquement |
|---|---|
| Information | dire que le traitement existe, et sa logique |
| Accès | pouvoir extraire toutes les données d'une personne, y compris des journaux |
| Rectification | pouvoir corriger, et propager la correction |
| Effacement | pouvoir supprimer d'un entrepôt et des jeux d'entraînement |
| Opposition | pouvoir exclure une personne d'un traitement |
| Non-soumission à une décision automatisée | prévoir une intervention humaine réelle |
Le droit à l'effacement pose une vraie difficulté. Supprimer une ligne d'une base est simple. Supprimer l'influence d'un exemple sur un modèle déjà entraîné est un problème ouvert : c'est l'objet du désapprentissage machine, encore expérimental.
La position pratiquée par la plupart des organisations est un compromis : supprimer la donnée des sources, la retirer du jeu d'entraînement, et l'exclure au prochain réentraînement. Cela suppose de savoir quels exemples ont servi à entraîner quel modèle — une exigence de traçabilité qui rejoint exactement la reproductibilité MLOps.
La décision entièrement automatisée mérite une attention particulière. Lorsqu'une décision est prise sans intervention humaine et produit un effet juridique ou significatif — refus de crédit, rejet de candidature, suspension de compte —, la personne a droit à une intervention humaine, à une explication de la logique et à la contestation.
L'erreur fréquente est de croire qu'une validation formelle suffit à sortir du régime : un opérateur qui approuve 99 % des recommandations sans marge réelle d'appréciation ne constitue pas une intervention humaine au sens du texte.
Le règlement européen sur l'intelligence artificielle
Adopté en 2024 et d'application progressive, il classe les systèmes par niveau de risque plutôt que par technologie.
Risque inacceptable : pratiques interdites, notamment la notation sociale généralisée par les autorités publiques, l'exploitation de vulnérabilités et certains usages de l'identification biométrique à distance.
Haut risque : les systèmes utilisés dans le recrutement, l'accès au crédit, l'éducation, la santé, la justice, les infrastructures critiques et la biométrie. Ce sont eux qui portent les obligations réelles : gestion des risques, gouvernance des données, documentation technique, journalisation, transparence envers les utilisateurs, supervision humaine effective, exigences de robustesse et d'exactitude.
Risque limité : obligation de transparence. Un utilisateur doit savoir qu'il parle à une machine, et les contenus générés ou manipulés doivent être signalés comme tels.
Risque minimal : pas d'obligation spécifique.
Ce qu'il faut en faire concrètement : commencez par qualifier votre système. La grande majorité des projets relève du risque minimal ou limité, et la charge est alors légère. Si vous touchez à l'emploi, au crédit, à la santé, à l'éducation ou à la justice, considérez d'emblée que vous êtes en haut risque et prévoyez la documentation en conséquence — la reconstituer après coup coûte beaucoup plus cher que de la produire au fil du projet.
Anonymisation, pseudonymisation, et ce qui les distingue
Une confusion très répandue, avec des conséquences juridiques opposées.
La pseudonymisation remplace les identifiants directs par des codes. Les données restent personnelles au sens du RGPD, parce que la réidentification demeure possible. Le règlement continue de s'appliquer intégralement.
L'anonymisation rend la réidentification raisonnablement impossible. Les données sortent alors du champ du RGPD. C'est bien plus difficile qu'il n'y paraît.
Pourquoi c'est difficile : la combinaison de quelques attributs suffit souvent à identifier une personne. Une date de naissance, un code postal et un sexe identifient une large part d'une population. Retirer le nom ne produit donc pas de l'anonymat.
Ce qui aide réellement : la k-anonymité, qui garantit que chaque enregistrement est indistinguable d'au moins k−1 autres ; l'agrégation, qui ne publie que des statistiques de groupe ; et la confidentialité différentielle, qui ajoute un bruit calibré offrant une garantie mathématique — la seule approche qui fournisse une garantie formelle, au prix d'une perte de précision.
Les données qui fuient par le modèle
Trois fuites propres au machine learning, souvent absentes des analyses d'impact.
La mémorisation. Un modèle surparamétré peut retenir des exemples littéralement, et des travaux ont montré qu'il est possible d'extraire de grands modèles de langue des passages de leurs données d'entraînement — parfois des données personnelles ou des secrets. Le remède : nettoyer les données d'entraînement des secrets et données sensibles, et surveiller la mémorisation par des tests d'extraction.
L'inférence d'appartenance. Il est parfois possible de déterminer si un enregistrement précis figurait dans les données d'entraînement, ce qui constitue une atteinte à la vie privée même sans accès aux données — savoir qu'une personne figurait dans un jeu de données médical révèle déjà quelque chose. Le remède : éviter le surapprentissage, qui aggrave nettement ce risque.
Les journaux d'inférence. Le plus banal et le plus fréquent. On journalise les entrées et sorties pour déboguer, et ces journaux contiennent des données personnelles, sont conservés longtemps et largement accessibles. Ils relèvent pourtant du même régime que les données sources.
La liste de contrôle de conformité
- La base légale est identifiée et documentée.
- La finalité est déterminée, et la compatibilité d'une réutilisation examinée.
- Seules les données nécessaires sont collectées.
- Une durée de conservation est fixée, y compris pour les jeux d'entraînement et les journaux.
- Les droits des personnes peuvent être exercés, effacement compris.
- Si la décision est automatisée et significative : intervention humaine réelle, explication, recours.
- Une analyse d'impact est réalisée si le traitement présente un risque élevé.
- Le niveau de risque au titre du règlement sur l'IA est qualifié.
- Les données d'entraînement sont nettoyées des secrets et données sensibles inutiles.
- Les journaux sont masqués, à durée limitée et à accès restreint.
- La traçabilité permet de savoir quelles données ont entraîné quel modèle.
À retenir
- Les six principes du RGPD s'appliquent pleinement : licéité, finalité, minimisation, exactitude, conservation limitée, sécurité.
- La finalité est le point de blocage le plus fréquent : des données collectées pour un usage ne sont pas librement réutilisables pour entraîner.
- Le droit à l'effacement exige de savoir quels exemples ont entraîné quel mod èle : c'est une contrainte de traçabilité.
- Une décision automatisée significative impose une intervention humaine réelle, pas une validation de forme.
- Le règlement européen sur l'IA classe par niveau de risque ; les obligations lourdes concernent le haut risque — emploi, crédit, santé, éducation, justice, biométrie.
- Pseudonymisé n'est pas anonyme : seule l'anonymisation véritable sort du RGPD, et elle est difficile.
- Trois fuites propres au machine learning : mémorisation, inférence d'appartenance, journaux d'inférence.
Leçon suivante — La responsabilité : qui répond des décisions →