Leçon 5 — Les limites de l'IA générative
Cette leçon traite des points qui font échouer les projets ou créent des problèmes juridiques. Ce sont ceux qu'on découvre le plus souvent trop tard.
1. Le droit d'auteur : trois questions distinctes
Le sujet est régulièrement traité comme une seule question. Il en contient trois, avec trois réponses différentes.
L'entraînement sur des œuvres protégées était-il licite ?
C'est l'objet de nombreux litiges en cours et la réponse varie selon les juridictions. En Europe, une exception de fouille de textes et de données existe, mais elle est assortie d'un droit d'opposition des titulaires de droits, et son application aux modèles génératifs commerciaux est discutée. Aux États-Unis, la défense d'usage loyal est invoquée et n'a pas été tranchée de façon définitive pour ce cas.
Ce que cela signifie pour vous : les conditions d'utilisation de votre fournisseur, y compris ses éventuelles garanties d'indemnisation, sont un élément de choix à part entière. Certains fournisseurs s'engagent à couvrir leurs clients en cas de réclamation ; d'autres non. C'est un critère commercial, à lire avant de signer.
Une image ou un texte généré est-il protégeable ?
Aux États-Unis, l'office du droit d'auteur a établi qu'une œuvre produite sans apport créatif humain suffisant n'est pas protégeable. Une simple consigne textuelle ne suffit pas.
En Europe, la protection suppose une « création intellectuelle propre à son auteur ». Une consigne seule ne l'établit probablement pas ; en revanche, un travail substantiel de composition, de sélection, de retouche et d'assemblage peut le faire.
Ce que cela signifie pour vous : si vous comptez protéger un visuel, documentez votre apport — esquisses, itérations, retouches, choix éditoriaux. Et sachez qu'un visuel purement généré est susceptible d'être libre de droits, donc réutilisable par un concurrent.
La sortie peut-elle porter atteinte à des droits existants ?
Oui, et c'est le risque le plus concret des trois. Un modèle peut produire une image très proche d'une œuvre existante, reproduire un logo reconnaissable, ou générer un texte contenant un passage protégé.
Ce que cela signifie pour vous : pour tout usage commercial, faites une recherche d'antériorité visuelle sur les visuels importants, et écartez tout ce qui ressemble à une marque, un personnage ou un style d'artiste identifiable.
2. La mémorisation des données d'entraînement
C'est la version technique du risque précédent, et elle est bien documentée.
Un modèle est censé apprendre une distribution, pas des exemples. Mais lorsqu'une image ou un texte apparaît des centaines de fois dans le corpus, il peut être mémorisé et restitué presque à l'identique.
Les cas concernés en pratique : les logos de marques connues, les photographies très diffusées, les extraits de code publics fréquemment copiés, les passages de textes célèbres, et les œuvres d'artistes massivement reproduites en ligne.
Des travaux ont montré qu'on peut extraire d'un modèle de diffusion des images quasi identiques à des images d'entraînement, en particulier pour les images dupliquées.
Ce qui limite le risque : la déduplication du corpus, appliquée par les fournisseurs sérieux, et l'évitement des consignes qui nomment une œuvre ou un artiste précis. Ce qui ne le supprime pas : rien, complètement.
3. On ne peut pas détecter un contenu généré
Autant le dire nettement : il n'existe pas de méthode fiable pour déterminer qu'un texte a été produit par une IA.
Les détecteurs commerciaux produisent des taux d'erreur élevés dans les deux sens. Le biais le plus documenté et le plus grave : ils signalent bien plus souvent les textes écrits par des locuteurs non natifs, dont le style plus régulier et le vocabulaire plus courant ressemblent aux sorties de modèles. Des étudiants ont été accusés à tort sur cette base.
Le marquage invisible est plus prometteur techniquement : on biaise légèrement le choix des tokens selon un motif secret, détectable statistiquement. Cela fonctionne, et cela suppose la coopération du fournisseur, ne résiste pas à une reformulation, et n'existe pas sur les modèles ouverts.
Pour les images, les métadonnées de provenance — initiative C2PA — sont une réponse sérieuse, et elles reposent sur une chaîne de confiance et disparaissent au premier recadrage ou à la première capture d'écran.
La conséquence pratique : fonder une sanction académique ou professionnelle sur un détecteur est indéfendable. Les institutions qui s'adaptent le font autrement — en changeant les modalités d'évaluation, en demandant des processus plutôt que des livrables, en réintroduisant l'oral.
4. Les biais, amplifiés par la génération
Les modèles génératifs reproduisent les régularités de leurs corpus, et la génération les rend visibles et diffusables à grande échelle.
Les audits menés sur les générateurs d'images ont montré des associations systématiques entre professions et caractéristiques démographiques, plus marquées encore que dans la réalité statistique. Demander « un chef d'entreprise » ou « une personne qui fait le ménage » sans autre précision produit des résultats très prévisibles.
Le problème dépasse le genre et l'origine : les représentations sont culturellement centrées. « Un mariage », « un repas de fête », « une maison » produisent par défaut des images occidentales.
Les fournisseurs appliquent des correctifs — réécriture des consignes, filtrage — souvent opaques et parfois contre-productifs. Le cours sur l'éthique traite ce sujet en profondeur.
Ce que vous pouvez faire : être explicite dans vos descriptions plutôt que de laisser le défaut décider, et vérifier la diversité de ce que vous publiez comme vous vérifieriez n'importe quelle production éditoriale.
5. Le coût, énergétique et financier
À l'entraînement, les grands modèles consomment énormément : plusieurs milliers de cartes graphiques pendant des semaines, une empreinte carbone équivalente à plusieurs centaines de vols transatlantiques pour les plus gros modèles. Ce coût est amorti sur des millions d'utilisateurs, et il est concentré chez quelques acteurs.
À l'inférence, chaque requête consomme peu et le volume fait le total. À l'échelle de centaines de millions de requêtes quotidiennes, l'inférence dépasse largement l'entraînement en consommation cumulée. Une génération d'image est nettement plus coûteuse qu'une génération de texte courte.
Ce que cela implique concrètement : ne mettez pas un grand modèle là où un petit suffit. Sur une tâche de classification, un modèle spécialisé de quelques centaines de millions de paramètres est plus précis, cent fois moins cher et bien moins consommateur qu'un grand modèle généraliste. C'est une décision d'ingénierie autant qu'écologique.
6. La transparence est devenue une obligation
En Europe, le règlement sur l'intelligence artificielle impose des obligations de transparence spécifiques aux systèmes génératifs.
Les contenus générés doivent être identifiables comme tels, dans un format lisible par machine. Les hypertrucages — images, sons ou vidéos représentant des personnes réelles de façon fabriquée — doivent être signalés explicitement. Les fournisseurs de modèles à usage général doivent publier une documentation technique et une synthèse des données d'entraînement, et respecter le droit d'auteur.
Ce que cela change pour vous : si vous publiez du contenu généré destiné au public, prévoyez la mention. Si vous construisez un produit sur un modèle tiers, vérifiez que votre fournisseur remplit ses obligations, parce que les vôtres en dépendent.
À retenir
- Le droit d'auteur pose trois questions distinctes : la licéité de l'entraînement, la protégeabilité de la sortie, et l'atteinte à des droits existants.
- Un visuel purement généré est probablement non protégeable : documentez votre apport créatif si cela compte.
- La mémorisation est réelle pour les contenus très dupliqués : logos, photographies célèbres, code public.
- Détecter un contenu généré ne fonctionne pas ; les détecteurs pénalisent particulièrement les locuteurs non natifs.
- Les biais sont amplifiés et culturellement centrés : soyez explicite plutôt que de laisser le défaut décider.
- Le coût cumulé de l'inférence dépasse celui de l'entraînement : ne surdimensionnez pas le modèle.
- En Europe, la transparence est obligatoire pour les contenus générés et les hypertrucages.
Leçon suivante — Récapitulatif, glossaire et FAQ →