Module 10 — Droits d'auteur, provenance et usages responsables

Ce dernier module technique ne parle pas d'architecture. Il traite de ce qui décide si un modèle peut être déployé, et à quelles conditions. C'est la partie du cours qu'on saute le plus volontiers et qui coûte le plus cher quand on l'a sautée : plainte collective, retrait d'un modèle, réputation d'entreprise, procès individuel. Les décisions techniques prises pendant l'entraînement laissent des traces juridiques permanentes.

Le jeu d'entraînement décide de tout le reste

Les grands modèles génératifs d'aujourd'hui sont entraînés sur des corpus collectés massivement sur le web. LAION-5B contient 5,85 milliards de paires image-légende issues de Common Crawl. Books3, The Pile, RedPajama rassemblent des dizaines de milliards de mots. Ces jeux ne sont pas anodins juridiquement : ils contiennent des œuvres protégées, des données personnelles, des contenus problématiques (matériel abusif dans LAION, retiré fin 2023).

Trois régimes juridiques s'appliquent, et ils divergent selon le pays :

• Union européenne : l'AI Act entré en application en 2024 impose aux fournisseurs de modèles à usage général une transparence sur les données d'entraînement, le respect des mécanismes d'opposition prévus par la directive DSM 2019, et une évaluation des risques systémiques au-delà de $10^{25}$ FLOPs.
• États-Unis : le régime du fair use n'a pas de jurisprudence stabilisée sur l'entraînement génératif. Les procès en cours (Getty contre Stability, New York Times contre OpenAI, Andersen contre Stability) définiront la ligne progressivement.
• Japon, Singapour : politiques plus permissives, l'utilisation d'œuvres protégées pour l'entraînement est explicitement autorisée sous conditions.

Pour un modèle produit en 2026 et destiné à un usage européen, la traçabilité des données d'entraînement n'est pas optionnelle. Un modèle entraîné sur un corpus non documenté ne peut être commercialisé en conformité avec l'AI Act.

Filigrane et C2PA : deux façons de dire « c'est synthétique »

Une fois qu'un modèle génère du contenu, il faut pouvoir le distinguer du contenu humain. Deux approches complémentaires existent, ni l'une ni l'autre suffisante seule.

Le filigrane invisible modifie l'image générée d'une manière imperceptible mais détectable par un algorithme dédié. Deux implémentations récentes :

• SynthID (Google, 2023-2024) modifie certaines fréquences de l'image générée par les modèles Imagen. Le motif survit à la compression JPEG modérée, aux rognages simples et aux modifications de contraste. Il ne survit pas à une régénération complète ni à un dessin par-dessus.
• Watermark diffusion (Rombach, 2023) inclut le filigrane directement dans le processus de diffusion, plutôt qu'en post-traitement. Plus robuste, mais suppose d'accéder au processus de génération.

Le C2PA (Coalition for Content Provenance and Authenticity), standard ISO en cours de finalisation, adopte l'approche inverse : au lieu de cacher un signal dans le pixel, il attache à l'image une signature cryptographique contenant son historique — modèle d'origine, éditions successives, auteur. Adobe, Microsoft, la BBC, l'AFP l'adoptent depuis 2024. La limite est simple : une image sans C2PA n'est pas suspecte pour autant, puisque la majorité des images n'en portent pas.

Le filigrane peut toujours être retiré, ce n'est pas son rôle

Aucun filigrane connu ne résiste à un attaquant motivé : recompresser en JPEG faible qualité, ajouter du bruit, faire un aller-retour dans un autre modèle génératif suffit à casser SynthID. Le filigrane sert le cas honnête — journaliste qui republie sans savoir, plateforme qui applique une modération — pas la lutte contre la désinformation ciblée. Ne pas le vendre comme une garantie d'authentification.

Hypertrucages : la génération de personnes

La génération de visages soulève des questions distinctes du droit d'auteur. Un modèle capable de produire un visage plausible peut aussi produire le visage d'une personne réelle dans une scène qu'elle n'a jamais vécue. C'est l'hypertrucage (deepfake).

Trois usages problématiques dominent les statistiques recensées :

• Contenu intime non consensuel : de loin l'usage majoritaire (plus de 90 % des hypertrucages détectés selon plusieurs études indépendantes). La victime est presque toujours une femme, souvent mineure. Plusieurs juridictions ont légiféré spécifiquement (Loi française n° 2024-449, UK Online Safety Act 2023).
• Fraude par usurpation : appels vocaux imitant un dirigeant pour autoriser un virement, entretiens vidéo pour un recrutement fictif. Le coût économique cumulé estimé dépasse le milliard d'euros en 2025.
• Désinformation politique : plus visible mais quantitativement moins fréquente, avec un impact difficile à mesurer.

Un système de génération grand public devrait, à ce titre : refuser de générer des personnes identifiables sans consentement explicite, appliquer un filigrane par défaut, journaliser les consignes qui contournent ces filtres pour détecter les usages problématiques. Ces mesures ne sont pas parfaites — un modèle libre en poids peut être ré-entraîné sans ces filtres — mais elles éliminent la voie la plus facile.

Consentement et données personnelles

Les personnes dont les images ont servi à l'entraînement ont, sous RGPD, un droit à l'effacement. Le retrait d'une image du jeu d'entraînement n'efface pas ce que le modèle a déjà appris. Deux réponses techniques émergent : le désapprentissage machine (algorithmes qui « oublient » l'influence d'un sous-ensemble sans réentraîner intégralement, garanties encore imparfaites) et le filtrage à la génération (détecter si une sortie ressemble à une personne d'une liste noire et refuser).

Dans la pratique 2026, aucun modèle en poids libre ne satisfait pleinement le droit à l'effacement. C'est une zone grise que les fournisseurs gèrent au niveau de l'interface (filtres, journalisation, refus explicites) plutôt qu'au niveau du modèle.

Ce que la réglementation attend d'un déploiement européen

Le public de la plateforme InSkillML est majoritairement francophone et donc soumis à l'AI Act. Concrètement, un service de génération déployé en 2026 doit :

• Étiqueter clairement le contenu généré par IA (article 50 de l'AI Act), sur l'image et dans les métadonnées.
• Documenter l'origine des données d'entraînement, même sommairement, dans un résumé accessible aux ayants droit.
• Fournir un mécanisme de retrait pour les personnes concernées, avec un délai de réponse défini.
• Empêcher techniquement les usages interdits (contenu sexuel de mineurs, incitation à la haine, hypertrucages sans consentement).
• Évaluer les risques systémiques si le modèle dépasse le seuil de calcul défini par la Commission.

Traitez la conformité comme une contrainte de conception, pas comme une pièce jointe

Il est bien plus coûteux d'ajouter le filigrane, la journalisation et les filtres à un modèle déjà entraîné et déployé que de les prévoir au départ. Les grandes plateformes qui ont dû se rétrofitter en 2024 (mise en conformité C2PA d'Adobe, filtres de SynthID sur Gemini) témoignent du surcoût. Prévoyez ces éléments dès la conception, comme la sécurité applicative.

En résumé

• Le jeu d'entraînement conditionne toutes les questions juridiques ultérieures ; sans traçabilité, un modèle n'est pas déployable en conformité avec l'AI Act.
• Le filigrane invisible (SynthID) et le C2PA sont complémentaires : l'un signe le pixel, l'autre les métadonnées ; aucun ne résiste à un attaquant motivé.
• Les hypertrucages dominés par le contenu intime non consensuel exigent des refus par défaut, filigranes systématiques et journalisation, jamais parfaits mais opérationnels.
• Le déploiement européen impose étiquetage, documentation, mécanisme de retrait et filtres techniques ; ces contraintes doivent être prévues à la conception, jamais ajoutées après coup.

Module suivant : la récapitulation du cours et l'examen final de 40 questions.