Pourquoi le PCA change de direction selon les unités de mesure et comment la standardisation permet de corriger ce biais

Changer d’unité peut changer les directions choisies par la PCA.

Prenons les mêmes données, mais exprimons une variable en millimètres plutôt qu’en mètres : ses valeurs sont multipliées par 1 000… et sa variance par 1 million !

Comme la PCA cherche les directions qui maximisent la variance, cette variable peut alors peser beaucoup plus lourd dans le résultat, simplement à cause de son unité.

C’est pourquoi on standardise souvent les données avant une PCA : on centre chaque variable et on ramène sa variance à 1.

Mais ce n’est pas une règle absolue, lLes différences d’échelle peuvent aussi porter une information pertinente que l’on souhaite conserver lors de la réduction de dimension.

J’ai écrit un article interactif pour explorer plus en détail le fonctionnement de la PCA sur NabLab. Le lien est dans la bio !

#PCA #AnalyseEnComposantesPrincipales #MachineLearning #DataScience #ReductionDeDimension Statistiques NabLab