Ollama — LLM en local
Installation et exploitation de modèles de langage en local avec Ollama, pour la confidentialité et le coût.
Durée du cours : 4h
Ce que vous allez apprendre
- Installer Ollama et récupérer des modèles adaptés à sa machine
- Appeler un modèle local depuis du code par son interface
- Créer un modèle dérivé avec ses propres consignes système
- Choisir un niveau de quantification selon la mémoire disponible
- Comparer coût et confidentialité face à une API hébergée
Prérequis
- Ligne de commande
- Python souhaité
Modules du cours
- Installation sur Windows, macOS et Linux
- Récupérer, lister et supprimer des modèles
- Session interactive et paramètres de génération
- Interface de programmation locale
- Fichiers Modelfile et modèles dérivés
- Quantification et empreinte mémoire
- Accélération matérielle
- Intégration avec des applications existantes
- Système de questions-réponses local sur documents
- Limites de l'exécution locale
Évaluation et attestation
Le parcours se termine par un examen de 40 questions qui couvre tous les modules. En cas de réussite, une attestation d'achèvement est délivrée ; son numéro est vérifiable sur la plateforme.
Les cours gratuits, eux, se concluent par un quiz de 5 questions avec un aperçu de l'attestation, sans certification.