Scanner
Intermédiaire Entraînement P

PPL (Perplexité)

Abréviation de Perplexité, métrique standard pour évaluer la qualité d'un LLM sur un corpus de texte.

Définition complète

PPL est l'abréviation couramment utilisée pour Perplexité (Perplexity en anglais). Dans les tableaux de comparaison de modèles quantisés, le PPL est systématiquement reporté pour quantifier la dégradation de qualité introduite par la compression. Par exemple, un modèle Llama 3 8B en Q4_K_M peut avoir un PPL de 6.2 contre 5.9 en FP16, indiquant une très légère dégradation. Les outils comme llama.cpp incluent une commande de mesure de perplexité (`llama-perplexity`) permettant aux utilisateurs d'évaluer leurs quantisations sur des corpus personnalisés. Se référer à l'entrée Perplexité pour la définition complète.

Termes associés

Perplexité (PPL) Métrique mesurant la capacité d'un LLM à prédire un texte de test ; une perplexité basse indique un meilleur modèle. Quantisation (Q4_K_M, Q5_K_M, Q8_0) Technique de compression réduisant la précision des poids d'un LLM (ex : de 16 bits à 4 bits) pour économiser mémoire et calcul. Benchmark Ensemble de tests standardisés permettant de mesurer et comparer les capacités des LLM de manière objective. LLM (Large Language Model) Grand modèle de langage entraîné sur des milliards de textes, capable de comprendre et générer du langage naturel.