Pourquoi les modèles génératifs gaspillent leur capacité sur le bruit de fond

Les modèles génératifs d'images peinent à distinguer l'essentiel du superflu. Ils confondent l'incertitude sémantique (l'ambiguïté sur le contenu, comme la forme d'une voiture) et le bruit irréductible (les détails haute fréquence, comme les feuilles ou les reflets). Ce dernier consomme une grande partie de la puissance de calcul du modèle, alors qu'il apporte très peu d'information utile pour la tâche de prédiction principale.

Exemple : Imaginez que vous demandiez à un modèle de générer une image de forêt. Il dépense énormément de ressources pour calculer chaque feuille individuelle, chaque ombre fine et chaque reflet sur l'écorce. Ces détails sont du « bruit » pour la compréhension globale de la scène, mais ils absorbent la majorité de sa capacité de calcul, au détriment de la cohérence sémantique de l'ensemble.