Aller au contenu principal

Leçon 6 — Récapitulatif et FAQ

Les cinq leçons en une page

Leçon 1 — le mécanisme. Un LLM prédit le token suivant, et rien d'autre. Ses paramètres sont figés : aucune base consultée, aucune connaissance postérieure à sa coupure, aucune mémoire entre sessions. La taille améliore la robustesse, pas la fiabilité factuelle.

Leçon 2 — l'entraînement. Le pré-entraînement représente plus de 99 % du coût et produit un modèle qui continue du texte. Le réglage par instructions en fait un assistant. L'alignement lui donne son ton et sa prudence. Ce qui vous est accessible est le fine-tuning, qui apporte du comportement et non de la connaissance.

Leçon 3 — le RAG. Récupérer, augmenter, générer. Le découpage détermine la qualité de l'ensemble, la recherche hybride est le gain le plus rentable, et les quatre causes d'échec sont la mauvaise récupération, les passages ignorés, l'absence de citations et les droits d'accès non filtrés.

Leçon 4 — les agents. Le modèle contrôle la boucle et décide d'appeler des outils, sans jamais rien exécuter lui-même. Les erreurs se composent : raccourcissez les chaînes. L'injection de consigne indirecte se traite par le moindre privilège, pas par une meilleure consigne.

Leçon 5 — la production. Le coût est dominé par l'entrée ; le levier majeur est de dimensionner le modèle correctement. Le streaming règle la latence perçue. Quatre garde-fous de sécurité. Un jeu d'évaluation figé, repassé à chaque modification. Et épinglez la version du modèle.


Glossaire

TermeCe que cela veut dire
LLMun grand modèle de langage, transformeur de plusieurs milliards de paramètres
Tokenl'unité de texte traitée, souvent un fragment de mot
Paramètreun poids appris, figé après l'entraînement
Modèle de basele modèle issu du seul pré-entraînement, qui continue du texte
Réglage par instructionsl'étape qui apprend à répondre à une demande
Alignementl'ajustement sur préférences humaines, qui donne le ton et la prudence
RLHFl'alignement par renforcement à partir de retours humains
DPOune alternative plus simple, optimisant directement sur les préférences
Fine-tuningl'affinage d'un modèle existant sur vos exemples
LoRAun affinage léger n'entraînant que de petites matrices additionnelles
Oubli catastrophiquela perte des capacités générales après un affinage trop agressif
Distillationl'entraînement d'un petit modèle à imiter un grand
RAGla génération augmentée par récupération de documents
Découpagela segmentation des documents en passages indexables
Base vectorielleun stockage de plongements interrogeable par proximité
Recherche hybridela combinaison de recherche vectorielle et par mots-clés
Réordonnancementle tri fin des candidats par un modèle plus précis
Fenêtre de contextele nombre maximal de tokens traités en une fois
Appel d'outille mécanisme par lequel le modèle demande l'exécution d'une fonction
Agentun système où le modèle contrôle la boucle et appelle des outils
MCPun protocole standardisant l'exposition des outils aux modèles
Injection de consigneune instruction malveillante cachée dans du contenu lu par l'agent
Températurele réglage de la prise de risque au tirage du token
Streamingl'affichage des tokens au fur et à mesure de leur production
Quantificationla réduction de la précision numérique des poids pour économiser la mémoire

Les 12 questions que les gens posent vraiment

1. Modèle propriétaire ou modèle ouvert ?

Propriétaire pour le raisonnement difficile, la simplicité de mise en œuvre et l'absence d'infrastructure. Ouvert pour la confidentialité totale, le coût à volume élevé, la maîtrise des versions et l'indépendance. L'écart de qualité s'est beaucoup réduit, et pour la classification, l'extraction ou le résumé, un modèle ouvert de taille modeste suffit largement.

2. Peut-on faire tourner un LLM sur sa propre machine ?

Oui. Un modèle de 7 à 8 milliards de paramètres quantifié tourne correctement sur un ordinateur portable récent avec 16 Go de mémoire. La quantification réduit la précision des poids — de 16 bits à 4 bits — ce qui divise l'empreinte mémoire par quatre pour une perte de qualité modeste. C'est parfait pour de la classification, de l'extraction et du résumé sur données sensibles.

3. Combien de données faut-il pour un fine-tuning ?

De quelques centaines à quelques milliers d'exemples. La qualité et la cohérence dominent largement la quantité : mille exemples homogènes battent dix mille exemples approximatifs. Et rappelez-vous que le fine-tuning apporte du comportement, pas de la connaissance factuelle.

4. Pourquoi mon RAG donne-t-il de mauvaises réponses ?

Dans la grande majorité des cas, parce que la récupération ramène les mauvais passages. Vérifiez-le avant tout autre diagnostic : affichez les passages récupérés sur trente questions représentatives. Ensuite, dans l'ordre : le découpage est-il adapté ? La recherche est-elle hybride ? Y a-t-il un réordonnancement ? La consigne interdit-elle explicitement de répondre hors passages ?

5. Comment empêcher un modèle d'inventer ?

On encadre plutôt qu'on empêche. Fournir les documents, exiger des citations vérifiables, autoriser explicitement l'aveu d'ignorance, mettre la température à 0, valider la sortie. Aucune de ces mesures n'est suffisante seule, et leur combinaison rend l'erreur rare et détectable, ce qui est l'objectif réaliste.

6. Un LLM peut-il traiter des documents confidentiels ?

Cela dépend de l'hébergement, pas du modèle. Avec une API publique, vos données sortent de votre infrastructure : lisez les conditions, notamment sur la réutilisation pour l'entraînement, et vérifiez la localisation des traitements. Avec un modèle auto-hébergé, rien ne sort. Sur des données de santé, juridiques ou RH, l'auto-hébergement est souvent la seule option défendable.

7. Comment estimer le budget d'un projet ?

Multipliez le nombre de requêtes quotidiennes attendues par le nombre de tokens d'entrée et de sortie par requête, puis par le tarif. Comptez l'entrée en premier : avec du RAG, elle représente souvent 80 % du volume. Puis appliquez un facteur trois pour les tentatives, les tests et la croissance. Et vérifiez si un modèle plus petit ne suffirait pas : c'est là que se joue l'essentiel.

8. Faut-il utiliser un cadriciel comme LangChain ?

Utile pour prototyper vite, pénalisant en production pour beaucoup d'équipes : les abstractions masquent ce qui se passe, ce qui gêne le diagnostic, et les versions bougent beaucoup. Un RAG se code en quelques centaines de lignes, et les écrire soi-même donne une compréhension qui sert ensuite tous les jours. Le protocole MCP est en revanche un standard utile pour exposer des outils.

9. Ces modèles raisonnent-ils vraiment ?

Ils produisent des enchaînements qui améliorent réellement leurs résultats, et ils échouent sur des variantes triviales de problèmes qu'ils résolvent — ce qu'un raisonnement authentique ne ferait pas. La position utile en pratique : une capacité réelle mais non fiable, à vérifier systématiquement dès que la conclusion compte.

10. Quelle est la plus grosse erreur des débutants ?

Deux, à égalité. Utiliser le fine-tuning pour de la connaissance factuelle au lieu du RAG. Et prendre le plus gros modèle disponible pour une tâche simple, ce qui multiplie le coût et la latence sans améliorer le résultat. Une troisième, presque aussi fréquente : ne pas construire de jeu d'évaluation, et donc naviguer à l'impression.

11. Ces modèles vont-ils remplacer les développeurs ?

Ils changent la répartition du travail. L'écriture de code répétitif, la traduction entre langages, la génération de tests et l'exploration d'une base inconnue sont fortement accélérées. Ce qui prend de la valeur : la conception, la revue, le débogage de systèmes complexes, et la responsabilité de ce qui est mis en production. Le goulot d'étranglement se déplace vers la vérification.

12. Où aller après ce cours ?

MLOps pour industrialiser et surveiller. IA dans le cloud pour l'infrastructure et les coûts. Éthique de l'IA pour la responsabilité, les données personnelles et la conformité.


Prêt à construire pour de vrai ?

Les cours premium couvrent le RAG complet avec bases vectorielles, le fine-tuning avec LoRA, les agents, l'outillage d'évaluation et la mise en production, avec un certificat vérifiable après un examen de 40 questions. Inclus dans toutes les formules payantes.


Dernière étapePassez le quiz et découvrez votre attestation →