Leçon 5 — Où la vision par ordinateur échoue
Les démonstrations de vision sont spectaculaires. Les déploiements sont difficiles. Cette leçon explique l'écart entre les deux, et c'est la plus utile du cours pour éviter de perdre un budget.
1. Les conditions de prise de vue, cause numéro un des échecs
C'est de très loin le premier motif d'échec en production, et il n'a rien à voir avec le modèle.
Un modèle entraîné sur des images prises dans un atelier bien éclairé, avec une caméra fixe et un cadrage constant, s'effondre dès que l'une de ces conditions change : éclairage du soir, reflet nouveau sur une surface, caméra remplacée par un autre modèle, opérateur qui cadre différemment, poussière sur l'objectif.
Le modèle n'a pas appris « ce qu'est un défaut ». Il a appris à distinguer les images de votre jeu d'entraînement, ce qui n'est pas la même chose.
Ce qui règle vraiment le problème, par ordre d'efficacité :
- Maîtriser physiquement les conditions : éclairage contrôlé, position fixe, gabarit de placement. En contrôle industriel, un investissement de quelques milliers d'euros en éclairage rapporte plus que n'importe quelle amélioration de modèle.
- Collecter la variabilité réelle : des images sur plusieurs semaines, plusieurs équipes, plusieurs machines, plusieurs moments de la journée.
- Augmenter les données de façon réaliste pour simuler ce que le capteur peut produire.
Ce qui ne règle pas le problème : prendre un modèle plus gros.
2. Le modèle apprend le raccourci, pas le concept
Un réseau optimise ce qu'on mesure, et il trouve le chemin le plus court. Si un indice sans rapport avec la tâche permet de bien prédire sur vos données, il l'utilisera.
Les cas documentés sont nombreux et instructifs. Un détecteur de pathologie sur radiographies qui s'était en réalité entraîné à reconnaître le marqueur physique posé par le service sur les clichés positifs. Un classifieur d'animaux qui utilisait la présence de neige pour identifier une espèce, parce que toutes les photographies d'entraînement de cette espèce avaient été prises en hiver. Un détecteur de pièces défectueuses qui s'appuyait sur le numéro de lot imprimé, corrélé au poste de production.
Ces modèles obtiennent d'excellents scores en test, parce que le raccourci est présent dans le jeu de test aussi. Ils échouent dès que la corrélation disparaît.
Comment le détecter : visualisez ce que le modèle regarde. Les cartes de saillance — famille Grad-CAM — colorent les zones qui ont pesé sur la décision. Si le modèle regarde le coin de l'image plutôt que la pièce, vous avez trouvé. Faites systématiquement cette vérification avant de mettre en production, sur une vingtaine d'images bien classées et une vingtaine mal classées.
3. Les biais des jeux d'images
Les grands jeux de données de vision ont été constitués en aspirant des images du web, ce qui a des conséquences mesurables.
Les études d'audit menées sur les systèmes commerciaux de classification faciale ont montré des écarts de taux d'erreur très importants selon la couleur de peau et le genre : quelques pourcents d'erreur sur les hommes à peau claire, plus de trente pourcents sur les femmes à peau foncée pour certains systèmes. La cause n'était pas mystérieuse : les jeux d'entraînement étaient massivement composés d'images d'hommes à peau claire.
Le problème dépasse largement les visages. Un modèle entraîné sur des photographies majoritairement occidentales reconnaît moins bien des objets du quotidien photographiés dans d'autres pays — un plat, un vêtement, un moyen de transport, une habitation.
Ce qu'il faut faire : ne jamais se contenter d'une performance globale. Mesurez la performance par sous-groupe — type de produit, site de production, équipe, condition d'éclairage, et pour l'humain, les caractéristiques pertinentes. Un écart de performance entre sous-groupes est un défaut de conception, pas une fatalité.
Le cours sur l'éthique de l'IA reprend ce sujet avec les définitions formelles et le cadre réglementaire.
4. Les attaques adverses
On peut modifier une image de façon imperceptible pour un humain et faire basculer complètement la prédiction d'un modèle. Une perturbation calculée, d'amplitude minuscule et répartie sur toute l'image, suffit à faire classer un panneau stop comme une limitation de vitesse.
Il existe aussi des attaques physiques : un autocollant imprimé placé sur un objet, un motif sur un vêtement, des lunettes à monture particulière. Elles ne demandent aucun accès au système.
Ce que cela révèle : le modèle ne s'appuie pas sur les mêmes indices que nous. Il exploite des régularités statistiques des pixels qui corrèlent avec les étiquettes, et ces régularités sont fragiles.
Quand cela compte réellement : dès que le système contrôle un accès, valide un document, autorise une transaction, ou déclenche une action ayant un adversaire potentiel. Un contrôle qualité interne sans adversaire est peu concerné ; un contrôle d'accès biométrique l'est totalement.
Les défenses existent — entraînement adverse, détection d'anomalies en entrée — et elles sont partielles et coûteuses. La bonne réponse en 2026 reste architecturale : ne jamais faire reposer une décision de sécurité sur la seule vision, et prévoir un second facteur.
5. La dérive silencieuse
Un modèle de vision déployé se dégrade lentement, sans rien signaler. Les causes sont banales : la caméra vieillit et son objectif se voile, le fournisseur change la teinte d'un emballage, la ligne de production est réorganisée, la saison modifie la lumière naturelle.
Contrairement à un bug logiciel, rien ne casse. Le modèle continue de produire des prédictions confiantes, simplement plus souvent fausses. Une baisse de performance de dix points peut passer plusieurs mois inaperçue.
Ce qu'il faut mettre en place dès le déploiement :
- Un échantillon contrôlé régulièrement : quelques dizaines d'images par semaine vérifiées par un humain, ce qui donne une mesure continue de la performance réelle.
- Le suivi de la distribution des scores de confiance. Une dérive de cette distribution précède généralement la dérive de performance et se surveille sans annotation.
- Un jeu de référence figé : les mêmes images de contrôle repassées après chaque modification, pour garantir qu'aucune mise à jour ne régresse.
Le cours MLOps détaille ces dispositifs.
6. Le cadre réglementaire, à connaître avant de concevoir
En Europe, le règlement sur l'intelligence artificielle encadre explicitement la vision appliquée aux personnes.
L'identification biométrique à distance en temps réel dans les espaces accessibles au public est interdite, avec des exceptions très restreintes réservées à des enquêtes graves et soumises à autorisation. Les systèmes de reconnaissance des émotions sont interdits sur les lieux de travail et dans les établissements d'enseignement. La plupart des autres usages biométriques, ainsi que la vision appliquée au recrutement ou à l'évaluation de personnes, relèvent de la catégorie haut risque, avec des obligations lourdes : documentation technique, gestion des risques, qualité des données, supervision humaine, enregistrement des événements.
La conséquence pratique : un projet de vision portant sur des personnes se conçoit avec un juriste dès le cadrage, pas au moment du déploiement. Reprendre l'architecture après coup pour se conformer coûte beaucoup plus cher que de l'intégrer d'emblée.
À retenir
- Les conditions de prise de vue sont la première cause d'échec ; l'éclairage et le cadrage rapportent plus que le modèle.
- Un réseau apprend volontiers un raccourci sans rapport avec la tâche ; vérifiez avec des cartes de saillance avant production.
- Les jeux d'images portent des biais mesurables ; évaluez toujours par sous-groupe, jamais en global seulement.
- Les attaques adverses sont réelles dès qu'il existe un adversaire ; ne fondez pas une décision de sécurité sur la seule vision.
- La dérive est silencieuse : prévoyez un échantillon contrôlé et un jeu de référence figé dès le déploiement.
- La vision appliquée aux personnes est fortement encadrée en Europe ; associez un juriste au cadrage.
Leçon suivante — Récapitulatif, glossaire et FAQ →