📄️ Ollama
Installer, servir et intégrer des LLM sur son propre poste ou serveur avec Ollama : modèles, quantification, API compatible OpenAI, Modelfile, RAG local. Durée : 4 h, examen de 40 questions et attestation.
📄️ 1. Installation multi-OS
Module 1 du cours premium Ollama : installer le service, vérifier qu'il tourne, choisir l'emplacement des modèles et régler les variables d'environnement pour un poste de cabinet juridique.
📄️ 2. Gérer les modèles
Module 2 du cours premium Ollama : lire la bibliothèque, choisir une étiquette et une taille, télécharger, inspecter et libérer l'espace disque pour un poste de cabinet juridique.
📄️ 3. Session et paramètres
Module 3 du cours premium Ollama : la commande run, les commandes de session, la température, num_ctx, num_predict, la graine et les séquences d'arrêt, avec des mesures sur des questions du cabinet.
📄️ 4. API locale
Module 4 du cours premium Ollama : les points d'entrée generate, chat et embeddings, la bibliothèque Python officielle et l'API compatible OpenAI, le flux de jetons et le paramètre keep_alive.
📄️ 5. Modelfile et dérivés
Module 5 du cours premium Ollama : FROM, SYSTEM, PARAMETER, TEMPLATE, création d'un modèle dérivé du cabinet, import d'un GGUF affiné et partage entre postes du réseau interne.
📄️ 6. Quantification et RAM
Module 6 du cours premium Ollama : les étiquettes Q4_K_M et Q8_0, la mémoire nécessaire selon la taille et le contexte, la qualité comparée sur des questions du cabinet juridique.
📄️ 7. Accélération matérielle
Module 7 du cours premium Ollama : NVIDIA CUDA, AMD ROCm, Apple Metal, déchargement partiel des couches, mesure de jetons par seconde selon le matériel et arbitrages pour un cabinet.
📄️ 8. Intégration applications
Module 8 du cours premium Ollama : appel depuis un script métier, depuis LangChain, depuis Open WebUI, exposition réseau et authentification par proxy inverse pour un cabinet.
📄️ 9. Questions-réponses locales
Module 9 du cours premium Ollama : plongements locaux avec nomic-embed-text, index Chroma sur disque, RAG entièrement hors ligne sur les dossiers du cabinet juridique.
📄️ 10. Limites locales
Module 10 du cours premium Ollama : qualité comparée aux grands modèles cloud, concurrence de plusieurs utilisateurs, mises à jour, sécurité du poste et arbitrages avec un serveur dédié.
📄️ 11. Récapitulation et examen
Récapitulation complète du cours premium Ollama : installation, modèles, session, API, Modelfile, quantification, matériel, intégration, RAG local et limites, puis l'examen de 40 questions.