Un espace latent est une famille de représentations pas un objet unique
Or dans beaucoup d’architecture moderne il y a en réalité plusieurs espaces latents, chacun avec sa propre géométrie et son propre rôle.
Dans la dernière video youtube on entraine un ResNet sur CIFAR-10 afin d’inspecter ses latents et voir l’impacte de l’entrainement sur leurs géométries.
🎬« La géométrie caché des embeddings » (Lien en bio et en story à la une)
#latentspaces #embedding #deeplearning #resnet #computervision
On apprend que l'espace latent n'est pas un objet unique et mystique, mais une famille de représentations distinctes. Dans un modèle type SimCLR, l'encodeur génère d'abord un vecteur H (ici 512 dimensions), puis une tête de projection produit un vecteur Z (128 dimensions). H est la représentation interne de l'encodeur, tandis que Z est spécifiquement façonnée par la perte contrastive pour rapprocher les vues augmentées d'une même image et les éloigner des autres. Confondre H et Z, ou les traiter comme un seul « latent », est une erreur courante : ce sont deux espaces avec des géométries et des rôles différents.
Exemple : Si vous avez une image de chat, l'encodeur crée H qui capture les détails visuels globaux. La projection crée ensuite Z, optimisé pour que deux versions légèrement modifiées de ce chat (rotation, recadrage) soient très proches dans l'espace Z, mais éloignées d'un chien. H et Z ne sont pas interchangeables : Z est l'espace où la similarité est mesurée pour l'apprentissage.