Chapitre 8 — Métriques de régression

🎯 Objectifs d'apprentissage

Distinguer MSE, MAE, RMSE et RMSLE.
Calculer ces métriques à partir d'un jeu de prédictions.
Choisir la métrique appropriée selon le contexte.
Interpréter les unités et la sensibilité aux outliers.

8.1 — Le problème à résoudre

Dans un problème de régression, le nombre d'erreurs n'est pas un critère approprié pour évaluer la performance. On préfère quantifier l'écart entre les prédictions et les valeurs réelles. main_4.pdf, p. 16

8.2 — Erreur quadratique moyenne (MSE)

📘 Définition à connaître

Étant données $n$ étiquettes réelles $y 1, \dots, y n$ et $n$ prédictions $f(x 1), \dots, f(x n)$ , on appelle erreur quadratique moyenne (Mean Squared Error) la valeur :

MSE = \frac{1}{n} \sum_{i = 1}^{n} {(f ({\vec{x}}^{i}) - y^{i})}^{2}

main_4.pdf, p. 16

Unités : MSE est exprimée en unités au carré (par exemple €²). Elle est très sensible aux valeurs aberrantes car l'erreur est élevée au carré.

8.3 — Erreur absolue moyenne (MAE)

📘 Définition à connaître

MAE = \frac{1}{n} \sum_{i = 1}^{n} | f ({\vec{x}}^{i}) - y^{i} |

main_4.pdf, p. 16

Unités : MAE est exprimée dans la même unité que la cible (par exemple €). Elle est plus robuste aux valeurs aberrantes que la MSE.

8.4 — Racine de l'erreur quadratique moyenne (RMSE)

📘 Définition à connaître

RMSE = \sqrt{\frac{1}{n} \sum_{i = 1}^{n} {(f ({\vec{x}}^{i}) - y^{i})}^{2}} = \sqrt{MSE}

main_4.pdf, p. 17

Unités : RMSE est exprimée dans la même unité que la cible (€, par exemple), contrairement à la MSE. C'est pourquoi on la préfère souvent.

8.5 — Racine du log de l'erreur quadratique moyenne (RMSLE)

📘 Définition à connaître

RMSLE = \sqrt{\frac{1}{n} \sum_{i = 1}^{n} {(\log (f ({\vec{x}}^{i}) + 1) - \log (y^{i} + 1)}^{2}}

main_4.pdf, p. 17

Usage : RMSLE est utilisée lorsque les valeurs cibles s'étendent sur plusieurs ordres de grandeur et qu'on souhaite évaluer une erreur relative. Exige $f(x i) \geq 0$ et $y i \geq 0$ .

8.6 — Comparaison des métriques

Métrique	Formule	Unité	Sensible aux outliers ?	Usage recommandé
MSE	$(1/n) \sum (f(x i) - y i)²$	Unités² (€²)	Très	Comparaison de modèles, optimisation mathématique
MAE	$(1/n) \sum \|f(x i) - y i \|$	Unités (€)	Modérément	Interprétation simple, données bruitées
RMSE	$\sqrtMSE$	Unités (€)	Très	Comparaison avec la cible dans son unité native
RMSLE	$\sqrt[(1/n) \sum (log(f(x i)+1) - log(y i +1))²]$	Log-échelle	Modérément	Cibles sur plusieurs ordres de grandeur

8.7 — Exemple guidé — Prix des pizzas

✏️ Exemple guidé — Atelier 2, Cas 1

Considérons 3 pizzas de test. Prix réels $y = (7, 9, 13) T$ , prédictions du modèle $M 1$ : $ŷ = (6, 8, 11) T$ .

Écarts individuels $ε i = f(x i) - y i$ :

$ε 1 = 6 - 7 = -1$
$ε 2 = 8 - 9 = -1$
$ε 3 = 11 - 13 = -2$

1. MAE :

MAE = \frac{| - 1 | + | - 1 | + | - 2 |}{3} = \frac{1 + 1 + 2}{3} = \frac{4}{3} \approx 1,333

2. MSE :

MSE = \frac{{(- 1)}^{2} + {(- 1)}^{2} + {(- 2)}^{2}}{3} = \frac{1 + 1 + 4}{3} = \frac{6}{3} = 2,000

3. RMSE :

RMSE = \sqrt{2,000} \approx 1,414

Interprétation : en moyenne, le modèle $M 1$ se trompe de 1,33 € en valeur absolue (MAE) et de 1,41 € en écart quadratique moyen (RMSE) sur le prix des pizzas.

Atelier_2.pdf, Cas 1

⚠️ Attention — pièges classiques

Oubli des parenthèses $f(x)+1$ dans la RMSLE : calculer $log(f(x))$ au lieu de $log(f(x)+1)$ , ce qui provoque une erreur si $f(x) = 0$ .
Confusion d'unités : la MSE est en unités² (€²), la RMSE en unités (€). Ne pas les mélanger lors de la comparaison.

📌 À retenir

MSE : moyenne des carrés des erreurs, unités². Sensible aux outliers.
MAE : moyenne des valeurs absolues, unité native. Robuste.
RMSE : racine de la MSE, unité native. Compromis.
RMSLE : log-erreur, pour cibles multi-échelles.

🎯 À l'examen

Pour les prix réels $y = (10, 20)$ et les prédictions $ŷ = (12, 15)$ , calculez la MAE, la MSE et la RMSE.
Pourquoi utilise-t-on la RMSLE au lieu de la RMSE lorsque les données couvrent plusieurs ordres de grandeur ?
Expliquez la différence entre MSE et RMSE en termes d'unités.