Sommaire · leçon 126 sur 139
Module 23 · En pratique
Entraîner un modèle ouvert avec LoRA
Réentraîner tous les poids d'un modèle demande des machines coûteuses. LoRA n'entraîne qu'une petite couche ajoutée, quelques mégaoctets, et donne des résultats proches. Avec la bibliothèque TRL, l'entraînement du trieur tient en une quarantaine de lignes, sur un notebook gratuit.
18 minLeçon 126 / 139
À la fin de cette leçon, vous saurez
- Comprendre le principe de LoRA et ses réglages principaux
- Lancer un entraînement supervisé avec TRL et PEFT
- Choisir où entraîner : processeur, carte graphique locale ou notebook en ligne
- Lire les courbes de perte d'entraînement et de validation
Leçon réservée
Cette leçon fait partie du parcours complet.
Le premier module du parcours AI Engineer est en accès libre. Débloquez les 25 modules pour continuer.
Paiement unique, accès à vie. Mobile money ou carte bancaire.