Aller au contenu principal

Leçon 4 — Les architectures : lesquelles comptent, et pourquoi

Il existe des milliers d'architectures publiées. Une petite dizaine couvre l'immense majorité des besoins réels. Cette leçon vous donne de quoi choisir sans lire la littérature.


Les dorsaux de classification

Rappel de la leçon 2 : un modèle de vision se compose d'un dorsal qui transforme les pixels en représentation, et d'une tête qui produit la réponse. Le dorsal est ce que vous réutilisez en transfer learning, donc c'est le choix le plus structurant.

ResNet, publié en 2015, reste la référence par défaut. Son apport est la connexion résiduelle : un raccourci qui ajoute l'entrée d'un bloc à sa sortie, ce qui donne au gradient un chemin direct vers les premières couches. C'est ce qui a rendu les réseaux très profonds entraînables. ResNet-50, avec ses cinquante couches, est encore aujourd'hui un excellent point de départ : robuste, largement documenté, disponible pré-entraîné partout.

Les familles EfficientNet et ConvNeXt sont des convolutifs plus récents qui offrent un meilleur rapport précision-calcul. ConvNeXt est notable car il montre qu'un réseau convolutif modernisé rattrape les transformeurs de vision, ce qui a calmé le discours annonçant la fin de la convolution.

MobileNet est conçu pour l'embarqué. Il remplace la convolution standard par une version factorisée bien moins coûteuse, ce qui permet de tourner sur téléphone en quelques millisecondes. On perd quelques points de précision et on gagne l'autonomie complète vis-à-vis du réseau.


Les transformeurs de vision

Le Vision Transformer, publié en 2020, applique aux images le mécanisme d'attention décrit dans le cours de deep learning. Le principe : découper l'image en petites tuiles — 16 × 16 pixels typiquement — traiter chaque tuile comme un token, et laisser l'attention faire le reste.

Le résultat est instructif. Avec énormément de données, il dépasse les convolutifs. Avec peu de données, il est nettement moins bon.

La raison est éclairante. Un réseau convolutif intègre par construction deux hypothèses sur les images : le voisinage compte, et un motif garde son sens où qu'il se trouve. Ce sont des biais inductifs, et ils sont corrects. Le transformeur n'en fait aucune : il doit découvrir la notion de voisinage à partir des données. Cette liberté est un avantage quand les données abondent et un handicap sinon.

Comment choisir en pratique

Si vous entraînez sur moins de quelques dizaines de milliers d'images, prenez un convolutif. Si vous partez d'un transformeur de vision déjà pré-entraîné sur un très grand corpus et que vous l'affinez, la question ne se pose plus vraiment : le pré-entraînement a déjà fait le travail, et les deux familles donnent des résultats comparables. Pour de l'embarqué, le convolutif reste plus économique.


Les architectures de détection

La famille YOLOyou only look once — domine la détection en production. Son idée fondatrice était de faire les prédictions en une seule passe sur l'image, là où les méthodes antérieures proposaient d'abord des régions candidates puis les classaient. Le gain de vitesse est considérable : les versions récentes traitent des dizaines d'images par seconde sur du matériel modeste.

C'est le choix par défaut pour la détection : rapide, précis, très bien outillé, avec un écosystème d'entraînement mature.

Les détecteurs en deux étapes, dont Faster R-CNN est le représentant historique, restent un peu plus précis sur les petits objets et sur les scènes encombrées, au prix de la vitesse. Ils gardent un intérêt en imagerie médicale ou satellitaire, où le temps réel n'est pas requis.

DETR aborde la détection comme un problème de prédiction d'ensemble à l'aide d'un transformeur. Élégant conceptuellement, plus lent à converger, il est surtout intéressant sur les scènes complexes.


Les architectures de segmentation

U-Net, publié en 2015 pour l'imagerie biomédicale, reste étonnamment actuel. Sa forme en U est une réponse directe au problème signalé dans la leçon 2 : le sous-échantillonnage détruit la précision de localisation, dont la segmentation a besoin.

La solution : une branche descendante qui réduit la résolution en enrichissant la sémantique, une branche remontante qui restaure la résolution, et des connexions latérales qui transmettent directement les détails fins de la descente vers la remontée. Le réseau dispose ainsi à la fois du « quoi » et du « où ».

U-Net a une autre qualité décisive en pratique : il fonctionne bien avec peu de données annotées, ce qui est exactement la situation en segmentation.

Mask R-CNN ajoute une tête de segmentation à un détecteur, ce qui donne de la segmentation d'instances : chaque objet détecté reçoit son masque.

SAM, pour segment anything model, est un modèle fondation de segmentation. Il segmente des objets qu'il n'a jamais vus, à partir d'un simple clic ou d'un rectangle. Son usage le plus rentable n'est pas la production mais l'annotation : il réduit énormément le temps de constitution d'un jeu de segmentation, en produisant des masques que l'annotateur n'a plus qu'à corriger.


Les modèles qui relient image et texte

CLIP est entraîné sur des centaines de millions de paires image-légende, avec un objectif simple : rapprocher dans un même espace le plongement d'une image et celui de sa description.

Cela ouvre la classification sans exemple. Vous n'entraînez rien : vous écrivez les descriptions textuelles de vos classes — « une photographie d'une soudure conforme », « une photographie d'une soudure poreuse » — et vous regardez de laquelle l'image est la plus proche. Sur des catégories courantes, cela fonctionne étonnamment bien, et cela permet de tester une idée en une heure au lieu d'un mois.

CLIP est aussi la brique qui permet aux générateurs d'images de comprendre une consigne textuelle, comme le détaille le cours d'IA générative.

Ses limites : sur du vocabulaire technique ou des défauts subtils propres à votre métier, la performance sans exemple s'écroule. C'est un excellent outil d'exploration, rarement la solution finale.


Le tableau de choix

Votre besoinArchitecture recommandéePourquoi
Classifier des images, jeu modesteResNet-50 ou ConvNeXt affinérobuste, bien documenté, peu exigeant
Classifier sur appareil embarquéMobileNet ou EfficientNet compactquelques millisecondes, hors ligne
Détecter et compter des objetsYOLO récentrapide, précis, outillage mature
Détecter de très petits objetsdétecteur en deux étapesplus précis, temps réel sacrifié
Segmenter avec peu d'annotationsU-Netconçu exactement pour ce cas
Segmenter des instances distinctesMask R-CNNun masque par objet détecté
Accélérer l'annotationSAMmasques semi-automatiques
Tester une idée sans entraînerCLIPclassification sans exemple

Le conseil qui vaut plus que le choix d'architecture

Sur un projet réel, la qualité et la représentativité de vos données comptent bien davantage que l'architecture retenue. L'écart de performance entre ResNet et le dernier modèle publié se compte en quelques points ; l'écart entre un jeu de données bâclé et un jeu de données soigné se compte en dizaines de points.

L'ordre des priorités qui donne les meilleurs résultats :

  1. Constituer un jeu représentatif de la variabilité réelle de prise de vue.
  2. Annoter proprement, avec des consignes écrites et un contrôle de cohérence entre annotateurs.
  3. Régler l'augmentation de données en fonction de ce que le capteur peut produire.
  4. Prendre une architecture éprouvée et l'affiner.
  5. Seulement ensuite, envisager de changer d'architecture.

Beaucoup d'équipes font ces étapes dans l'ordre inverse et s'étonnent des résultats.


À retenir

  • ResNet et sa connexion résiduelle restent une excellente base ; ConvNeXt est sa version modernisée.
  • MobileNet pour l'embarqué : quelques points de précision en moins, l'autonomie en plus.
  • Les transformeurs de vision gagnent avec beaucoup de données, perdent avec peu, faute de biais inductif.
  • YOLO est le choix par défaut en détection ; les détecteurs en deux étapes gardent l'avantage sur les petits objets.
  • U-Net segmente bien avec peu d'annotations ; SAM accélère surtout l'annotation.
  • CLIP permet de tester une classification sans rien entraîner, et sature sur le vocabulaire métier.
  • La qualité des données pèse plus lourd que le choix d'architecture, et de loin.

Leçon suivanteLes limites : prise de vue, biais, attaques adverses →