Pourquoi un réseau de neurones a-t-il besoin de plusieurs couches pour construire progressivement des représentations adaptées à la tâche

Pourquoi un réseau de neurones a-t-il besoin de plusieurs couches ?

Chaque couche transforme la représentation produite par la couche précédente.

Les premières couches peuvent apprendre des représentations relativement simples, qui sont ensuite combinées et transformées par les couches suivantes pour construire des représentations de plus en plus complexes.

Ajouter des couches permet donc au réseau de composer plusieurs transformations successives et d’apprendre des fonctions plus complexes.

À condition d’introduire des non-linéarités entre ces couches. Sans fonction d’activation, même un réseau très profond pourrait se réduire à une seule transformation affine.

#neuralnetworks #neuralnetwork #deeplearning #machinelearning