Pourquoi un score de cosine élevé ne prouve rien sur l'invariance
Un excellent score pris isolément peut être trompeur : si toutes les représentations sont proches de toutes les autres, obtenir une forte similarité entre deux images ne nous apprend finalement pas grand-chose.
Plus généralement, chaque métrique et chaque projection ne sont qu’un résumé partiel d’une réalité souvent beaucoup plus complexe.
À plus forte raison en haute dimension : il faut croiser les métriques et éviter de prendre un joli scatter plot pour une fin en soi.
Extrait de ma vidéo YouTube « La géométrie cachée des embeddings » lien en bio et en story à la une.
#embeddings #latentspace #deeplearning #machinelearning
Cette vidéo explique pourquoi la similarité cosinus seule est une métrique trompeuse pour évaluer la qualité d'un modèle d'IA, notamment sa capacité à rester invariant aux transformations d'image.
L'idée centrale est qu'une valeur élevée de cosinus n'a de sens que si l'espace de représentation est bien structuré. Si un modèle non entraîné (initialisé aléatoirement) obtient un score très élevé, c'est souvent parce que toutes les représentations convergent vers une direction commune. Dans ce cas, deux images totalement différentes auront aussi une forte similarité. La métrique locale (la proximité entre deux points) doit donc être interprétée dans le contexte de la géométrie globale de l'espace.
Exemple : Imaginez un espace où tous les vecteurs pointent vers le nord. La similarité entre une image de chat et une image de voiture sera très élevée (0.99), tout comme celle entre une image de chat et sa version zoomée. Ici, le score de 0.99 ne prouve pas que le modèle a appris à reconnaître le chat, mais simplement que l'espace est dégénéré. Un bon modèle doit séparer les concepts (chat vs voiture) tout en gardant les variations d'une même image proches.