Petits modèles de langage (SLM)
Les petits modèles de langage : quand ils suffisent, comment les choisir et les faire tourner à moindre coût.
Durée du cours : 5h
Ce que vous allez apprendre
- Déterminer quand un petit modèle suffit à la tâche visée
- Comparer des modèles sur un jeu de tests représentatif
- Quantifier un modèle sans dégrader ce qui compte
- Le faire tourner sur du matériel modeste
- Chiffrer l'écart de coût avec un grand modèle hébergé
Prérequis
- Notions sur les modèles de langage
- Python
Modules du cours
- Pourquoi la taille n'est pas toujours la bonne réponse
- Panorama des petits modèles ouverts
- Distillation et compression de connaissances
- Élagage et quantification
- Formats d'exécution efficaces
- Mesurer la latence et le débit
- Affinage économique d'un petit modèle
- Exécution locale et hors ligne
- Confidentialité des données par l'exécution locale
- Projet : assistant spécialisé sur poste de travail
Évaluation et attestation
Le parcours se termine par un examen de 40 questions qui couvre tous les modules. En cas de réussite, une attestation d'achèvement est délivrée ; son numéro est vérifiable sur la plateforme.
Les cours gratuits, eux, se concluent par un quiz de 5 questions avec un aperçu de l'attestation, sans certification.