Scanner
Intermédiaire Entraînement L

LoRA (Low-Rank Adaptation)

Technique de fine-tuning efficace qui n'entraîne que quelques matrices de bas rang au lieu de tous les poids du modèle.

Définition complète

LoRA (Low-Rank Adaptation) est une méthode PEFT (Parameter-Efficient Fine-Tuning) qui congèle les poids originaux du modèle et injecte des matrices de décomposition de bas rang (A et B, où A×B approxime la mise à jour du poids). Au lieu de modifier des milliards de paramètres, LoRA n'entraîne que quelques millions de paramètres supplémentaires, réduisant drastiquement la mémoire GPU et le temps d'entraînement. Le rang r (typiquement 4 à 128) contrôle le compromis entre expressivité et efficacité. Les adaptateurs LoRA sont de petits fichiers (quelques centaines de Mo) qui se greffent sur le modèle de base, permettant plusieurs spécialisations avec un seul modèle de base. QLoRA combine LoRA avec la quantisation du modèle de base pour rendre le fine-tuning accessible sur des GPU grand public.

Termes associés

QLoRA Technique combinant la quantisation 4-bit d'un LLM de base avec LoRA pour permettre le fine-tuning sur GPU grand public. Fine-tuning Processus d'entraînement supplémentaire d'un LLM pré-entraîné sur un dataset spécialisé pour l'adapter à une tâche précise. SFT (Supervised Fine-Tuning) Première étape d'alignement d'un LLM, entraîné sur des exemples curatés de paires instruction/réponse de qualité. Distillation (Knowledge Distillation) Technique d'entraînement où un petit modèle apprend à imiter les sorties d'un grand modèle pour être plus léger. Hugging Face Plateforme communautaire hébergeant des milliers de modèles, datasets et espaces démo pour le machine learning.