Comment fonctionne un LLM ?
Un parcours consacré aux mécanismes des modèles de langage : représentation du texte, transformer, entraînement, génération et limites.
Ce que vous allez comprendre
Vous relierez les tokens et l’attention aux objectifs d’apprentissage, à la probabilité des sorties, aux stratégies de décodage et aux méthodes d’évaluation.
- Module 1 — Ce que prédit un modèle de langage
- Module 2 — Du texte aux jetons
- Module 3 — Représentations, positions et couches
- Module 4 — L’attention et le masque causal
- Module 5 — Pré-entraînement et optimisation
- Module 6 — Ajustement conversationnel et consignes
- Module 7 — Génération, échantillonnage et contexte
- Module 8 — Évaluer la fiabilité et reconnaître les erreurs
- Module 9 — Confidentialité, risques et usage responsable
Un cours avant le quiz, une vérification après la lecture.
Aucun entraînement de modèle n’est requis. Quelques notions élémentaires de probabilité et de calcul aident à suivre les parties plus techniques ; les définitions sont expliquées dans le cours.
Chaque leçon présente les notions et leurs limites avant trois questions de récupération active accompagnées d’un retour explicatif. La progression est personnelle et non certifiante : elle ne garantit ni la maîtrise pratique ni la sécurité d’une installation réelle.
L’accès à la formation est gratuit ; hébergement VPS, utilisation d’un fournisseur de modèle ou matériel spécialisé peuvent entraîner des coûts externes. Aucune invitation n’est décidée par une IA.
Communauté d’entraide Discord
Une question, besoin d’accompagnement ou blocage pendant le cours ? Les inscrits peuvent demander à rejoindre le serveur depuis le lecteur. Un humain examine les demandes ; aucun lien public ni admission automatique.