Comprendre le machine learning : régression linéaire, fonction de perte et mise à jour des poids

Cette vidéo explique le mécanisme fondamental du machine learning : comment un modèle apprend à partir de données en minimisant son erreur. L'objectif est de trouver une relation mathématique (comme une droite) qui prédit le mieux une variable cible, par exemple le prix d'une maison selon sa surface. Pour mesurer la qualité de cette prédiction, on utilise une fonction de perte, souvent l'erreur quadratique moyenne (MSE), qui calcule la différence entre la prédiction du modèle et la valeur réelle. Le but est de minimiser cette perte. Pour y parvenir, le modèle ajuste ses paramètres internes, appelés poids, via un processus appelé descente de gradient. On calcule la dérivée de la fonction de perte par rapport aux poids, ce qui indique la direction dans laquelle il faut les modifier pour réduire l'erreur. La taille de l'ajustement est contrôlée par le learning rate (taux d'apprentissage) : une valeur élevée accélère l'apprentissage mais risque de passer à côté du minimum, tandis qu'une valeur faible rend l'apprentissage lent. Ce paramètre est souvent optimisé par essai-erreur (fine-tuning).

Exemple : Si le modèle prédit un prix de 200k€ pour une maison qui vaut 250k€, l'erreur est de 50k€. La fonction de perte punit cette erreur. Le calcul de la dérivée indique alors si le modèle doit augmenter ou diminuer ses poids pour se rapprocher de 250k€ à la prochaine itération.