Métriques de performance¶
Aperçu¶
Après avoir calé un modèle hydrologique, il faut évaluer sa performance. Les métriques de performance quantifient l'accord entre débits simulés et observés, fournissant des mesures objectives de la qualité du modèle.
Aucune métrique ne capture à elle seule tous les aspects de la performance d'un modèle. Débits de pointe, étiages, chronologie, volume et variabilité racontent chacun une partie de l'histoire. Utiliser plusieurs métriques donne une image plus complète des forces et des faiblesses du modèle.
HOLMES implémente trois métriques largement utilisées : le RMSE (Root Mean Square Error, l'erreur quadratique moyenne), le NSE (Nash-Sutcliffe Efficiency) et le KGE (Kling-Gupta Efficiency). Chacune met l'accent sur des aspects différents de la performance et convient à des applications différentes.
Notation¶
Dans toute cette page :
- \(O_i\) = débit observé au pas de temps \(i\)
- \(S_i\) = débit simulé au pas de temps \(i\)
- \(\bar{O}\) = moyenne des débits observés
- \(\bar{S}\) = moyenne des débits simulés
- \(\sigma_O\) = écart-type des observations
- \(\sigma_S\) = écart-type des simulations
- \(n\) = nombre de pas de temps
RMSE : erreur quadratique moyenne¶
Définition¶
Interprétation¶
Le RMSE mesure l'ampleur moyenne des erreurs entre valeurs simulées et observées. Il a les mêmes unités que les données (par exemple mm/jour ou m³/s), ce qui le rend directement interprétable comme « taille d'erreur typique ».
Propriétés clés :
- Étendue : \([0, \infty)\)
- Score parfait : 0 (aucune erreur)
- Unités : les mêmes que les données d'entrée
- Mise au carré : les grandes erreurs contribuent de façon disproportionnée (une erreur de 10 mm/jour compte 100 fois plus qu'une erreur de 1 mm/jour)
Quand utiliser le RMSE¶
- Quand vous avez besoin de l'ampleur de l'erreur en unités physiques
- Quand les grandes erreurs sont particulièrement problématiques
- Pour comparer des modèles appliqués au même bassin versant (pas pour comparer entre bassins, car le RMSE varie avec l'ampleur des débits)
Limites¶
- Dépendant de l'échelle : un grand bassin versant à forts débits aura naturellement un RMSE plus élevé qu'un petit bassin, même si les deux modèles performent aussi bien en relatif
- Sensible aux valeurs extrêmes : quelques grandes erreurs peuvent dominer la métrique
- Aucune référence de compétence : le RMSE ne dit pas si le modèle fait mieux qu'une référence simple
Exemple d'interprétation¶
Si RMSE = 2.5 mm/jour pour un bassin versant au débit moyen de 5 mm/jour, l'erreur typique est d'environ 50 % du débit moyen — signe d'une performance modérée. Pour un bassin versant au débit moyen de 25 mm/jour, le même RMSE indiquerait une excellente performance (10 % d'erreur).
NSE : efficacité de Nash-Sutcliffe¶
Définition¶
Interprétation¶
Le NSE compare les erreurs du modèle à la variance des observations. Il répond à la question : « Le modèle fait-il mieux que la simple utilisation de la moyenne observée comme prédicteur? »
Propriétés clés :
- Étendue : \((-\infty, 1]\)
- Score parfait : 1 (les simulations coïncident exactement avec les observations)
- Score de référence : 0 (le modèle vaut la moyenne)
- Valeurs négatives : le modèle fait pire que la moyenne
- Adimensionnel : comparable entre bassins versants
Décomposition¶
Le NSE peut se comprendre comme :
où MSE est l'erreur quadratique moyenne et Var(O) la variance des observations. Le modèle doit expliquer plus de variance qu'il n'introduit d'erreur pour atteindre un NSE positif.
Barème indicatif¶
| NSE | Interprétation |
|---|---|
| > 0.75 | Très bon |
| 0.65 – 0.75 | Bon |
| 0.50 – 0.65 | Satisfaisant |
| 0.40 – 0.50 | Acceptable pour certains usages |
| < 0.40 | Insatisfaisant |
Ces seuils sont des repères, pas des règles strictes. La performance acceptable dépend de l'application.
Quand utiliser le NSE¶
- Pour une évaluation générale de la performance
- Pour comparer des modèles entre bassins versants différents
- Pour les publications scientifiques (le NSE est la métrique la plus souvent rapportée)
Limites¶
- Accent sur les hauts débits : parce que les erreurs sont mises au carré, le NSE est dominé par la performance pendant les débits de pointe. Un modèle qui capture bien les pointes mais rate les étiages peut quand même avoir un NSE élevé.
- Sensible à la chronologie : une simulation correcte en amplitude mais décalée dans le temps aura un mauvais NSE.
- Référence de la moyenne : utiliser la moyenne comme référence peut être trop facile dans les bassins versants à forte autocorrélation.
KGE : efficacité de Kling-Gupta¶
Définition¶
où :
- \(r\) = coefficient de corrélation de Pearson entre \(O\) et \(S\)
- \(\alpha = \frac{\sigma_S}{\sigma_O}\) = ratio des écarts-types (ratio de variabilité)
- \(\beta = \frac{\bar{S}}{\bar{O}}\) = ratio des moyennes (ratio de biais)
Interprétation des composantes¶
Le KGE décompose la performance en trois aspects indépendants :
| Composante | Symbole | Valeur optimale | Signification |
|---|---|---|---|
| Corrélation | \(r\) | 1 | Chronologie et forme |
| Ratio de variabilité | \(\alpha\) | 1 | Amplitude des variations |
| Ratio de biais | \(\beta\) | 1 | Bilan hydrique moyen |
Corrélation (\(r\)) : mesure la concordance de la chronologie et du motif des débits simulés avec les observations. Une corrélation élevée signifie que pointes et creux surviennent aux bons moments, même si les amplitudes diffèrent.
Ratio de variabilité (\(\alpha\)) : compare la « dispersion » des simulations à celle des observations. \(\alpha > 1\) signifie des simulations trop variables; \(\alpha < 1\) des simulations trop amorties.
Ratio de biais (\(\beta\)) : compare les débits moyens. \(\beta > 1\) signifie que le modèle surestime en moyenne; \(\beta < 1\) qu'il sous-estime.
Forme développée¶
Les composantes se calculent comme :
Propriétés clés¶
- Étendue : \((-\infty, 1]\)
- Score parfait : 1 (toutes les composantes égales à 1)
- Référence : KGE = -0.41 correspond à l'utilisation de la moyenne observée (comme NSE = 0)
- Adimensionnel : comparable entre bassins versants
- Diagnostique : les composantes révèlent les aspects à améliorer
Barème indicatif¶
| KGE | Interprétation |
|---|---|
| > 0.75 | Très bon |
| 0.50 – 0.75 | Bon |
| 0.00 – 0.50 | Acceptable |
| < 0.00 | Mauvais |
Quand utiliser le KGE¶
- Quand vous voulez une information diagnostique sur les erreurs du modèle
- Quand le bilan hydrique (le biais) compte pour votre application
- Quand vous voulez une évaluation plus équilibrée que celle du NSE
- Pour l'hydrologie opérationnelle, où les volumes totaux comptent
Avantages sur le NSE¶
-
Évaluation équilibrée : le NSE peut être élevé malgré un biais important si la variabilité est capturée. Le KGE pénalise explicitement le biais.
-
Valeur diagnostique : les composantes disent quoi corriger. Mauvais \(r\)? Travaillez la chronologie. Mauvais \(\beta\)? Ajustez le bilan hydrique.
-
Référence plus intuitive : NSE = 0 correspond à l'utilisation de la moyenne, mais KGE = 0 est un seuil plus significatif en pratique.
Comparaison des métriques¶
| Aspect | RMSE | NSE | KGE |
|---|---|---|---|
| Unités | Les mêmes que les données | Adimensionnel | Adimensionnel |
| Étendue | \([0, \infty)\) | \((-\infty, 1]\) | \((-\infty, 1]\) |
| Parfait | 0 | 1 | 1 |
| Comparaison entre bassins | Non | Oui | Oui |
| Accent | Toutes les erreurs également (au carré) | Hauts débits | Équilibré |
| Diagnostique | Non | Limité | Oui (3 composantes) |
| Sensibilité au biais | Implicite | Faible | Élevée |
| Usage le plus courant | Ampleur de l'erreur | Recherche | Opérationnel |
Choisir une métrique¶
Le choix de la métrique doit s'aligner sur vos objectifs de modélisation :
Pour la prévision des crues : NSE ou RMSE, car la précision des débits de pointe compte le plus.
Pour la planification des ressources en eau : KGE, parce que le bilan hydrique (les volumes totaux) est critique.
Pour l'évaluation des étiages : envisagez de transformer les débits (logarithme ou racine carrée) avant de calculer les métriques, ou utilisez des métriques d'étiage spécifiques.
Pour la recherche et la publication : rapportez plusieurs métriques. Le NSE pour la comparabilité avec la littérature; le KGE pour l'éclairage diagnostique; le RMSE pour l'interprétation physique.
Bonne pratique : rapportez toujours au moins deux métriques. Un NSE élevé avec de mauvaises composantes de KGE (par exemple une moyenne biaisée) révèle des limites importantes du modèle.
Conseils pratiques¶
-
Examinez les graphiques de séries temporelles en plus des métriques. Une métrique est un résumé; le graphique montre les détails.
-
Calculez les métriques par sous-périodes : calage vs validation, années humides vs sèches, saisons différentes. La performance peut varier.
-
Envisagez une transformation des débits : la transformation logarithmique met l'accent sur les étiages; la racine carrée offre un accent intermédiaire.
-
Méfiez-vous des valeurs suspectes : une seule observation manquante codée -999 peut ruiner toutes les métriques. Vérifiez d'abord la qualité des données.
-
Rapportez l'incertitude : si vous lancez plusieurs calages, rapportez l'étendue des métriques, pas seulement la meilleure exécution.
Références¶
Nash, J. E., & Sutcliffe, J. V. (1970). River flow forecasting through conceptual models part I—A discussion of principles. Journal of Hydrology, 10(3), 282-290. https://doi.org/10.1016/0022-1694(70)90255-6
L'article fondateur introduisant le NSE, l'un des articles les plus cités en hydrologie. Il établit le concept de comparaison des erreurs du modèle à la variance des observations.
Gupta, H. V., Kling, H., Yilmaz, K. K., & Martinez, G. F. (2009). Decomposition of the mean squared error and NSE performance criteria: Implications for improving hydrological modelling. Journal of Hydrology, 377(1-2), 80-91. https://doi.org/10.1016/j.jhydrol.2009.08.003
Introduit le KGE et démontre ses avantages sur le NSE. Montre comment le NSE peut masquer d'importantes déficiences du modèle.
Moriasi, D. N., Arnold, J. G., Van Liew, M. W., Bingner, R. L., Harmel, R. D., & Veith, T. L. (2007). Model evaluation guidelines for systematic quantification of accuracy in watershed simulations. Transactions of the ASABE, 50(3), 885-900.
Fournit des lignes directrices largement citées sur les niveaux de performance acceptables (NSE > 0.5 pour une performance satisfaisante).