📄️ Affinage de modèles
Spécialiser un modèle ouvert de 7 à 8 milliards de paramètres pour rédiger des comptes rendus structurés : LoRA, QLoRA, hyperparamètres, évaluation. Durée 8h, examen 40 questions, attestation vérifiable.
📄️ 1. Consigne, RAG ou affinage
Module 1 du cours premium Affinage : ce que l'affinage apprend et n'apprend pas, arbre de décision consigne, RAG ou affinage, coût total honnête de chaque option.
📄️ 2. Jeu d'instructions
Module 2 du cours premium Affinage : format conversationnel, gabarit du modèle, qualité et diversité, dédoublonnage, découpage train/val, génération synthétique et ses risques.
📄️ 3. Affinage complet
Module 3 du cours premium Affinage : mémoire pour poids, gradients et états d'optimiseur pour un modèle de 7 milliards, oubli catastrophique, cas où l'affinage complet reste justifié.
📄️ 4. PEFT
Module 4 du cours premium Affinage : adaptateurs, préfixes et LoRA dans la famille PEFT, ce qui est gelé, tour de la bibliothèque PEFT et de son intégration avec Transformers.
📄️ 5. LoRA
Module 5 du cours premium Affinage : décomposition en deux matrices, rang et facteur alpha, modules ciblés, nombre de paramètres entraînés, plusieurs adaptateurs pour un même modèle.
📄️ 6. QLoRA
Module 6 du cours premium Affinage : format NF4, double quantification, optimiseur paginé, configuration sur un GPU de 24 Go, écart de qualité mesuré face à LoRA en pleine précision.
📄️ 7. Hyperparamètres
Module 7 du cours premium Affinage : taux d'apprentissage, époques, taille de lot effective, longueur de séquence, échauffement, valeurs de départ raisonnables pour LoRA et QLoRA.
📄️ 8. Suivi et arrêt
Module 8 du cours premium Affinage : perte d'entraînement et de validation, surapprentissage sur petit jeu, échantillons générés par époque, points de contrôle et arrêt anticipé.
📄️ 9. Fusion et export
Module 9 du cours premium Affinage : fusion des adaptateurs dans les poids de base, export au format GGUF pour llama.cpp et Ollama, publication sur le Hub, licence du modèle de base.
📄️ 10. Évaluation
Module 10 du cours premium Affinage : jeu de test tenu à l'écart, métriques de format et de contenu, jugement humain en aveugle, régression mesurée sur les capacités générales.
📄️ Récapitulation et examen
Récapitulation complète du cours premium Affinage : décision, jeu de données, PEFT, LoRA, QLoRA, hyperparamètres, suivi, fusion, évaluation, puis l'examen final de 40 questions.